JPWO2012023282A1 - 動画像送信装置とその方法、動画像受信装置とその方法、及び動画像送受信装置 - Google Patents
動画像送信装置とその方法、動画像受信装置とその方法、及び動画像送受信装置 Download PDFInfo
- Publication number
- JPWO2012023282A1 JPWO2012023282A1 JP2012529493A JP2012529493A JPWO2012023282A1 JP WO2012023282 A1 JPWO2012023282 A1 JP WO2012023282A1 JP 2012529493 A JP2012529493 A JP 2012529493A JP 2012529493 A JP2012529493 A JP 2012529493A JP WO2012023282 A1 JPWO2012023282 A1 JP WO2012023282A1
- Authority
- JP
- Japan
- Prior art keywords
- moving image
- unit
- picture
- interlaced
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/025—Systems for the transmission of digital non-picture data, e.g. of text during the active part of a television frame
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
- H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
- H04N21/440281—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by altering the temporal resolution, e.g. by frame skipping
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0117—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
- H04N7/012—Conversion between an interlaced and a progressive signal
Abstract
50Hz圏内と60Hz圏内の間で、高画質な動画像を双方向通信する動画像送受信装置を簡単な構成で実現する。50Hz/60Hz調停部(21)は、相手側の動画像送受信装置の動作周波数が50Hzか60Hzのいずれであるかを、相手側から受信した周波数情報から取得する。50Hz/60Hz調停部(21)は、表示部(16)(又は入力部(20))から自身の動作周波数がいずれであるかを取得し、取得した動作周波数が、周波数情報で示される動作周波数と一致するかを判断する。一致する場合は、入力部(20)から出力されるインタレース動画像を符号化部(22)で符号化し、一致しない場合は入力部(20)でインタレース動画像をIP変換したプログレッシブ動画像を符号化部(22)で符号化してプログレッシブ動画像のストリームを生成する。送信部(23)は符号化したストリームと、動画像送受信装置(5)自身の動作周波数を示す周波数情報とを相手側に送信する。
Description
本発明はインタレース動画像を入力し、符号化したストリームをネットワークで送信する動画像送信装置およびその方法、ネットワークで受信したストリームを復号化して動画像を出力する動画像受信装置およびその方法、動画像送信方法と動画像受信方法を同時に行う動画像送受信装置に関する。
動画像の画像信号フォーマットには、インタレース動画像とプログレッシブ動画像との2通りがある。
インタレース動画像は飛び越し走査とも呼ばれ、最上位ラインを1ライン目とすると、トップ・フィールドと呼ばれるフレームの奇数走査線で構成されるフィールドと、ボトム・フィールドと呼ばれる偶数走査線で構成されるフィールドとの2つのフィールドで1フレームが構成される。図14は、インタレース動画像のフレームとフィールドの関係を説明する図である。1つのフレームを構成する2つのフィールドは異なる時刻の画像であり、すなわち1つのフレームは2つの異なる時刻の画像で構成されることになる。
一方、プログレッシブ動画像は順次走査とも呼ばれ、1つのフレームは1つの時刻の画像で構成される。プログレッシブ動画像でのフィールドは、1つのフレームが1つの時刻(同じ時刻)のトップ・フィールドとボトム・フィールドとの2つで構成されるものと考える。
すなわち、プログレッシブ動画像の1つの時刻の画像(フレーム)では、インタレース動画像の1つの時刻の画像(フィールド)に比べて走査線の数も、画素数も2倍である。従って、プログレッシブ動画像では1秒当りの画素数がインタレース動画像の2倍になるため、フレームの画素数が同じであれば、プログレッシブ動画像を符号化したストリームのビットレートがインタレース動画像を符号化したビットレートよりも多くなる短所がある。一方、インタレース動画像は1つの時刻の画像の画素数が1つのフィールドの画素数であるため、動きの速い動画像の場合には、1つの時刻あたりの画素数がフレームの1/2となる。よって、動きの速い動画像の場合には、プログレッシブ動画像のほうが高精細な画像を表現できる長所がある。
さて、歴史的な経緯により、北米や日本のように1秒間あたりのインタレースの画像枚数が60Hz(正確には59.94Hzの場合が多いが、簡略化のために60Hzと記す)のテレビ方式(60Hz Television System)と、欧州や旧共産主義国のように1秒間あたりのインタレースの画像枚数が50Hzのテレビ方式(50Hz Television System)とが使用されている。
具体的には、60Hzのアナログテレビ方式としてはNTSC方式が、50Hzのアナログテレビ方式としてはPAL方式及びSECAM方式が知られている。その結果、世界には60Hzの動画像機器および50Hzの動画像機器の2通りが存在する。なお、以下では、1秒間あたりのインタレースのフィールド画像枚数、および1秒間あたりのプログレッシブのフレーム画像枚数を、「ピクチャ周波数」という。
このように、世界には50Hzおよび60Hzの2通りのテレビ方式が存在するものの、地域内もしくは各国内では、いずれか一方のテレビ方式が使用されるので、その地域もしくは国内のカメラやディスプレイは50Hzのみ、もしくは60Hzの一方のみ対応することで、動画像機器の製造・販売のコスト削減が行われているのが現状である。すなわち、テレビ方式が50Hzの地域では、テレビだけではなく、内部に記録した画像をテレビで表示させるような動画像機部、例えば、ビデオ、DVDレコーダ、ムービーデジカメなどはほとんどすべて50Hzで動作するように作られており、テレビ方式が60Hzの地域では、これらの動画像機器はほとんどすべて60Hzで動作するように作られている。
さて、近年、高速ネットワークの普及や、経済活動のグローバル化に伴い、TV会議などの動画像通信を世界規模で行うことが多くなってきた。以下では、図15A、図15Bおよび図15Cを用いて、従来技術における課題を説明する。図13の各々は、2地点に位置する動画像送受信装置間で送受信される動画像データのピクチャ周波数の関係を説明するための図である。
図15Aは、テレビ方式が60Hz圏内同士で動画像の送受信を行う場合を示す。テレビ方式の60Hz圏内では、カメラとディスプレイが、ともに60Hzであるため、動画像送受信装置も60Hzで動作することにより、60Hzで符号化したストリームを送受信すれば、全ての機部が60Hzで動作するために特に問題はない。
図15Bは、テレビ方式が50Hz圏内同士で動画像の送受信を行う場合を示す。50Hz圏内ではカメラとディスプレイが、ともに50Hzであるため、動画像送受信装置も50Hzで動作することにより、50Hzで符号化したストリームを送受信すれば、全ての機部が50Hzで動作するために特に問題はない。
図15Cは、テレビ方式が50Hz圏内と60Hz圏内との間で動画像の送受信を行う場合を示す。この場合は、テレビ方式の60Hz圏内ではカメラやディスプレイが60Hzであるため、動画像送受信装置も60Hzで動作することにより60Hzで符号化したストリームを送信する。これに対し、60Hz圏内の動画像送受信装置が、50Hz圏内の動画像送受信装置から符号化ストリームを受信する場合には、50Hzで符号化したストリームを受信して復号化しなければならない。
逆に、テレビ方式が50Hz圏内ではカメラやディスプレイが50Hzであるため、動画像送受信装置も50Hzで動作することにより50Hzで符号化したストリームを送信するが、50Hz圏内の動画像送受信装置が、60Hz圏内の動画像送受信装置から符号化ストリームを受信する場合には、60Hzで符号化したストリームを受信して復号化しなければならない。このように、テレビ方式のピクチャ周波数が異なる地域の間で動画像の送受信を行う場合、受信側の動画像送受信装置では、自身の表示部において表示するピクチャ周波数と、50Hz/60Hzのピクチャ周波数とが異なるストリームを復号化して表示しなければならないという問題が発生する。
図16はテレビ方式のピクチャ周波数が異なる3地点の動画像送受信装置同士で動画像の送受信を行う場合に、送受信される動画像のピクチャ周波数の関係を説明する図である。次に、図16に示すようなテレビ方式が50Hz圏内と60Hz圏内とからなる3地点で動画像送受信を行う場合について説明する。このような場合には、同図左側に示す60Hz圏内ではカメラやディスプレイが60Hzであるため、動画像送受信装置も60Hzで動作する。これにより、動画像送受信装置は、60Hzで符号化したストリームを送信する。
ところが、同図右側に示されるような60Hz圏内と50Hz圏内とから動画像を受信する場合には、50Hzと60Hzとの2つの異なるピクチャ周波数で符号化されたストリームを復号化して表示しなければならないという、より難しい問題が発生する。
図17A及び図17Bは、プログレッシブ動画像のピクチャ周波数を、50Hzと60Hzとの間で変換する場合の課題を説明する図である。動画像送受信装置では受信したストリームを復号化してプログレッシブ動画像を復元する(これを図17A及び図17Bでは受信画像と記す)。動画像送受信装置では、プログレッシブ動画像の場合には、表示する時刻に、より近い方のフレームを表示する。
図17Aは、プログレッシブ動画像のピクチャ周波数を60Hzから50Hzに変換する方法を示す図である。図17Aに示すように、50Hz圏内の動画像送受信装置が60Hzのストリームを受信して復号化した場合は、1/60秒間隔の復元したフレームを1/50秒間隔で50Hzディスプレイに表示する。
そのために、1/60秒間隔の復元したフレームの中から、1/50秒間隔に最も時刻が近いフレームのみを表示する。従って、動画像送受信装置は、フレーム151とフレーム152とは受信して復号化するが、表示しない。
一般に、この場合、受信したフレームの6枚に1枚の割合で表示されないフレームが発生することになる。即ち、1フレーム分の1/60秒間の画像が表示されなくなり、画質が劣化することになる。
図17Bは、プログレッシブ動画像のピクチャ周波数を50Hzから60Hzに変換する場合の課題を説明する図である。図17Bに示すように、60Hz圏内の動画像送受信装置が50Hzのストリームを受信して復号化した場合は、1/50秒間隔の復元したフレームを1/60秒間隔で60Hzディスプレイに表示する。
そのために、1/50秒間隔の復元したフレームの中から、1/60秒間隔に最も時刻が近いフレームのみを表示する。従って、フレーム153とフレーム154は受信して復号化され、それぞれフレーム155とフレーム156、及びフレーム157とフレーム158の2回ずつ続けて表示される。
一般に、この場合には、受信したフレームの5枚に1枚の割合で、2回続けて表示されるフレームが発生することになる。即ち、同じフレームが、1フレーム分の1/60秒間だけ長く表示されるという軽微な画質劣化がある。
図18Aおよび図18Bは、インタレース動画像のピクチャ周波数を50Hzと60Hzと間で変換する場合の課題を説明する図である。動画像送受信装置では受信したストリームを復号化してインタレース動画像を復元する。動画像送受信装置では、ピクチャ周波数が異なるインタレース動画像を動画像送受信装置自身に入力される動画像のピクチャ周波数に合わせて表示する場合には、表示する時刻により近い動画像のフィールドを表示する。
なお、インタレース動画像の場合は、トップ・フィールドおよびボトム・フィールドの2つのフィールドがあり、インタレース動画像の規約として、必ずトップ・フィールドとボトム・フィールドを交互に表示しなければならない制約がある。
図18Aに示すように、50Hz圏内の動画像送受信装置が60Hzのストリームを受信して復号化した場合は、1/60秒間隔の復元したフィールドを、1/50秒間隔でトップ・フィールドとボトム・フィールドとがペアとなるように50Hzディスプレイに表示する。
そのために、1/60秒間隔の復元したフィールドの中から、1/25秒間隔で最も時刻が近い、トップもしくはボトムの識別が一致するフィールドのみを表示する。従って、フィールド161とフィールド162は受信して復号化されるが、表示されない。
一般に、この場合では、受信したフィールドの12枚に連続2枚の割合で表示されないフィールドが発生することになる。即ち、受信画像のうち、1/30秒間に相当する2フィールド分の画像が表示されない深刻な画質劣化になる。この画質劣化は、例えば、画像内で動いている物体の動きが滑らかでなく飛び飛びに見えたり、徐々に表示されるべき物体が突然現れたり、徐々に消えるべき物体が突然消えたりする症状となって知覚される。
また、図18Bに示すように、60Hz圏内の動画像送受信装置が50Hzのストリームを受信して復号化した場合は、1/50秒間隔の復元したフィールドを、1/60秒間隔でトップ・フィールドとボトム・フィールドとがペアとなるように60Hzのディスプレイに表示する。そのために、1/50秒間隔の復元したフィールドの中から、1/30秒間隔に最も時刻が近い、トップもしくはボトムの識別が一致するフィールドのみを表示する。
従って、トップ・フィールド163とボトム・フィールド164とは受信して復号化され、それぞれトップ・フィールド165とトップ・フィールド167、ボトム・フィールド166とボトム・フィールド168の2回ずつ表示される。
一般に、この場合では、受信したフィールドの10枚に2枚の割合で2回続けて表示されるフィールドが発生することになる。特記すべき問題は、ボトム・フィールド166の次にトップ・フィールド167が表示されるが、受信画像の時刻順はトップ・フィールド167がボトム・フィールド166より前になることである。すなわち、受信したフィールドの順序で表示できないため、右に移動する物体が12フィールドに1回の頻度で左に移動するように見えるという非常に深刻な画質劣化となる。
図19は従来の動画像送受信装置の構成を示すブロック図である。同図において、カメラ1とディスプレイ2を除外した部分が、動画像送受信装置3である。動画像送受信装置3は、入力部10、動画像メモリ11、符号化部12、送信部13、受信部14、復号化部15、表示部16及び動画像メモリ17を備える。
カメラ1から入力部10に入力された動画像信号は、入力部10により動画像データとして動画像メモリ11に一時的に格納される。動画像メモリ11に格納された動画像データは符号化部12で符号化されてストリームとなり、符号化されたストリームは送信部13によりネットワークに送信される。ここで、入力された動画像信号を入力部10で動画像メモリ11に一時的に格納する主な理由を下記に記す。
1. 入力部10に入力された動画像信号は走査線の順であり、符号化部12での符号化は矩形ブロック単位のため、画素データにアクセスする処理単位の変換が必要であること。
2. 入力部10に入力された動画像信号は50Hzもしくは60Hzの規則正しい間隔でカメラ1から入力されるが、符号化部12の符号化演算時間は動画像のコンテンツに依存して変動するため、符号化部12で符号化可能となる時刻までの画像の一時保持が必要であること。
一方、ネットワークから受信部14で受信したストリームを復号化部15で復号化することにより、動画像が復元される。復号化された動画像データは、表示部16により動画像メモリ17に一時的に格納される。動画像メモリ17に格納された動画像データは、表示部16によって読み出されて、ディスプレイ2に動画像信号として出力される。表示部16で動画像メモリ17に一時的に格納する主な理由を下記に記す。
1. 復号化部15で復号化した画像は矩形ブロック単位であり、表示部16から出力する動画像信号は走査線の順であるので、画素データをアクセスする処理単位の変換が必要であること。
2. 表示部16から出力する動画像信号は50Hzもしくは60Hzの規則正しい間隔でディスプレイ2に出力されるが、復号化部15の復号化演算時間はストリームの内容に依存して変動するため、復号化部15で復号化が完了し表示可能な状態となる時刻までの動画像データの一時保持が必要であること。
さて、ここでカメラ1やディスプレイ2の動画像信号は映像規格に準拠して50Hzもしくは60Hzの規則正しい間隔で入出力することが必要であるので、それを保証するために、動画像送受信装置3の入力部10及び表示部16は50Hzもしくは60Hzの基準クロックに同期して動作するハードウェアで構成するのが一般的である。前述のように、地域内もしくは各国内のテレビ方式によって、50Hzもしくは60Hzのいずれかが決まっているために、カメラ1、ディスプレイ2、入力部10および表示部16を含む範囲は、全て50Hzもしくは全て60Hzを基準として動作する同一周波数動作部R1である。
さて、図18A及び図18Bのインタレース動画像の50Hzと60Hzとの間の変換における課題説明図を用いて、50Hzのインタレース動画像を60Hzで表示する場合や、60Hzのインタレース動画像を50Hzで表示する場合に、ピクチャ周波数の変換を簡単な方法で実現すると、画質劣化が大きいことを説明した。しかしながら、IP変換と呼ばれる処理を用いることにより、この画質劣化を少なくすることができる。
図20は、テレビ方式の60Hz圏内の動画像受信装置がテレビ方式の50Hzのインタレース動画像を受信した場合において、ピクチャ周波数を変換する方法の一例を示す説明図である。この動画像受信装置では、50Hzのインタレース動画像の各表示時刻で、前後のフィールドを含む3フィールドを参照して、下記の1.〜3.のように画素の動きの大きさに応じて1フレームを生成するために参照する画素を適応的に切り替えることで、同じ時刻のトップ・フィールドとボトム・フィールドを有するフレームである、高精度な50Hzプログレッシブ動画像を生成する。
1. 動きが大きい場合は、画像間の相関が小さいので、同じ時刻の1フィールドの画素のみ参照する。相関が小さい画素をプログレッシブのフレームを構成する際に参照することで変換の性能が劣化することを、防止するためである。
2. 動きが無い場合は、画像間の相関が大きいので、3フィールドの画素を参照する。インタレース動画像では、前時刻のフィールドの画素位置と後時刻のフィールドの画素位置は、変換時刻のフィールドの画素位置と垂直位置が異なるため(図20参照)、前後の2フィールドを参照することで、高精細なプログレッシブのフレームに変換できる。
3. 小さな動きの場合は、上記1.と2.の中間的な性質であり、同じ時刻の1フィールドを重視しつつ前後の2フィールドの画素も参照する。
このようなインタレース動画像からプログレッシブ動画像への変換を、IP変換と呼ぶ。
50Hzプログレッシブ動画像から60Hzインタレース動画像への変換は、60Hzの時刻に近いフィールドを50Hzプログレッシブ動画像からトップ・フィールドとボトム・フィールドを交互に抽出することで実現する。その結果、トップ・フィールド181とボトム・フィールド182、およびトップ・フィールド183とボトム・フィールド184は、同じ時刻の画像が続けて表示されることになるが、他のフィールドよりも1/60秒長く同じ時刻の画像が表示される程度のため、軽微な画質劣化にとどまる。
同様に、図21は、テレビ方式の50Hz圏内の動画像受信装置がテレビ方式の60Hzのインタレース動画像を受信した場合において、ピクチャ周波数を変換する方法を説明する図である。同図に示すように、この動画像受信装置では、60Hzのインタレース動画像の各フィールドを表示する時刻で、前後のフィールドを含む3フィールドを参照して、画素の動きの大きさに応じて1フレームを生成するために参照する画素を適応的に切り替えることで、同じ時刻のトップ・フィールドとボトム・フィールドを有するフレームである、高精度な60Hzプログレッシブ動画像を生成する。60Hzプログレッシブ動画像から50Hzインタレース動画像への変換は、50Hzの各フィールドの表示時刻に近いフィールドを、60Hzプログレッシブ動画像からトップ・フィールドとボトム・フィールドを交互に抽出することで実現する。その結果、フレーム191に相当する時刻の画像が表示されないことになるが、1/60秒分の画像が表示されない程度のため、軽微な画質劣化にとどまる。
このようなインタレース動画像の50Hzと60Hzの変換方法については多くの方法が考案されている(特許文献1参照)。
放送や次世代光ディスクの普及により動画像のフルHD化が急速に進んできており、カメラのフルHDインタレース(1920×1080画素)化が急速に進んでいる。従来のテレビ会議ではプログレッシブ動画像のカメラ(SD解像度704×480画素、HD解像度1280×720画素)を使用していたため、50Hz圏内と60Hz圏内をネットワークで接続しても、図17A及び図17Bでプログレッシブ動画像の50Hzと60Hzの変換を説明したように、画質劣化は僅かであるために問題にはならなかった。
しかしながら、普及しつつあるフルHDインタレースの高解像度カメラを使用すると、図18A及び図18Bでインタレース動画像の50Hzと60Hzの変換について説明したように、深刻な画質劣化が発生してしまう。
また、図20のように、60Hz圏内で50Hzのインタレース動画像を受信した場合、および、図21のように、50Hz圏内で60Hzのインタレース動画像を受信した場合のようなインタレース画像の高度なピクチャ周波数変換を、図19の入力部10、もしくは表示部16で実施するためには、50Hzと60Hzの2つの基準クロックに対応したハードウェアが必要になり、同一周波数動作部R1と比べて複雑かつ高価な動画像送受信装置となる。
特に、図16で示したように、テレビ方式が異なる3地点の動画像送受信装置間で接続する場合や、更に4地点、5地点などの多地点の動画像送受信装置同士での接続にも対応した動画像送受信装置を実現するためには、受信するストリームの個数(つまり地点数)に比例して50Hzと60Hzのインタレース画像変換が必要になり、現実的ではない。
本発明は、テレビ方式の50Hz圏内と60Hz圏内との間で、高画質なインタレース動画像を双方向通信する動画像送受信装置等を簡単な構成で実現することを目的とする。
上記従来の課題を解決するために、本発明の一形態である動画像送信装置は、所定の撮像装置で撮像されるインタレース動画像を入力して所定の画像フォーマットの動画像を出力する入力部と、前記入力されたインタレース動画像の送信先である動画像受信装置から、前記インタレース動画像を構成するトップ・フィールドとボトム・フィールドのそれぞれと、プログレッシブ動画像の1フレームとを、いずれも1ピクチャと換算し、単位時間あたりに表示されるピクチャの数をピクチャ周波数とした場合に、前記動画像受信装置における前記ピクチャ周波数を示す周波数情報を受信する受信部と、入力された前記インタレース動画像の前記ピクチャ周波数と、前記動画像受信装置から受信した前記周波数情報で示されるピクチャ周波数とが一致しているか否かを判断する調停部と、前記入力部から出力される動画像を符号化してストリームを生成する符号化部と、生成された前記ストリームを前記動画像受信装置に送信する送信部と、を備える。
そして、前記ピクチャ周波数は、前記動画像受信装置のテレビ方式が50Hzおよび60Hzのいずれであるかを示し、前記入力部は、入力された前記インタレース動画像のピクチャ周波数と前記動画像受信装置から受信した前記周波数情報で示されるピクチャ周波数とが一致しないと前記調停部によって判断された場合は、前記インタレース動画像をプログレッシブ動画像に変換して出力し、ピクチャ周波数が一致すると判断された場合は、前記インタレース動画像を前記インタレース動画像のまま出力する。
以上のように、本発明の一形態である動画像送信装置によれば、入力されたインタレース動画像のピクチャ周波数と動画像受信装置から受信したピクチャ周波数とが一致しない場合には、入力されたインタレース動画像をプログレッシブ動画像に変換して出力するので、動画像送信装置からプログレッシブ動画像を受信した動画像受信装置では、インタレース動画像のピクチャ周波数を変換する場合と比べて、深刻な画質の劣化を生じることなく動画像のピクチャ周波数を変換することができる。
また、入力されたインタレース動画像のピクチャ周波数と、動画像受信装置から受信したピクチャ周波数とが一致する場合には、動画像送信装置に入力されたインタレース動画像をインタレース動画像のまま出力するので、動画像受信装置側において動きの滑らかなインタレース動画像を再生することができる。
また、本発明の他の形態である動画像送信装置では、前記入力部が前記インタレース動画像を前記プログレッシブ動画像に変換する場合、前記入力部は、前記インタレース動画像の前記ピクチャ周波数を維持したまま、前記プログレッシブ動画像に変換するとしてもよい。
本形態によれば、動画像送信装置側でIP変換を行う場合に、インタレース動画像のピクチャ周波数を維持したまま、すなわち、ピクチャ周波数の変換を行わないでプログレッシブ動画像に変換することにより、動画像送信装置の構成が複雑で高価になることを防止できる。
さらに、本発明の他の形態である動画像送信装置では、前記調停部は、前記動画像送信装置自身に入力される動画像のピクチャ周波数と前記動画像受信装置から受信した前記周波数情報で示されるピクチャ周波数とが一致すると判断した場合、さらに、ユーザの入力または通信路の状態があらかじめ定められた条件を満足するか否かを判断し、前記入力部は、前記条件が満足されると判断された場合、前記インタレース動画像をプログレッシブ動画像に変換するとしてもよい。
本形態によれば、ユーザの入力または通信路の状態が所定の条件を満足する場合、例えば、ユーザの入力により動画像のエラー耐性を重視して送信する旨の設定がされている場合、または、通信路においてエラーが発生しやすい状態である場合などにおいては、送信側と受信側とでピクチャ周波数が一致している場合であっても、エラー耐性が低いインタレース動画像をエラー耐性の高いプログレッシブ動画像に変換して送信することができる。
また、本発明の他の形態である動画像送信装置では、前記受信部は、複数の動画像受信装置から前記ピクチャ周波数を取得し、前記入力部は、前記複数の動画像受信装置から受信した前記周波数情報のそれぞれで示される前記ピクチャ周波数のうち、1つでも前記動画像送信装置自身に入力される動画像のピクチャ周波数と一致しないと前記調停部によって判断された場合、前記インタレース動画像をプログレッシブ動画像に変換するとしてもよい。
即ち、本形態によれば、動画像送信装置が複数の動画像受信装置に対して入力されたインタレース動画像を送信する場合、複数の動画像受信装置から受信したピクチャ周波数のうち1つでも動画像送信装置に入力される動画像のピクチャ周波数と一致しない場合には、入力されたインタレース動画像をプログレッシブ動画像に変換する。従って、1つでもピクチャ周波数が一致しない動画像受信装置がある場合には、すべての動画像受信装置に対してプログレッシブ動画像を送信することになる。
これにより、それぞれの動画像受信装置のピクチャ周波数に応じてインタレース動画像とプログレッシブ動画像とを切り替えて送信する場合と比べて、動画像送信装置における処理負荷を低減することができるとともに、ピクチャ周波数が一致しない動画像受信装置においては、深刻な画像の劣化を生じることなくピクチャ周波数を変換して動画像を再生することができる。
また、本発明の他の形態である動画像送信装置では、前記入力部は、前記インタレース動画像を前記プログレッシブ動画像に変換する場合、さらに、変換後の前記プログレッシブ動画像の1秒あたりの画素数が、変換前の前記インタレース動画像の1秒あたりの画素数と比べて大きくならないように、前記プログレッシブ動画像の各フレームに含まれる画素数を縮小するとしてもよい。
本形態によれば、前記インタレース動画像を前記プログレッシブ動画像に変換する場合、プログレッシブ動画像の各フレームに含まれる画素数を縮小するので、インタレース動画像のピクチャ周波数を維持したままプログレッシブ動画像に変換した場合にプログレッシブ動画像の1秒あたりの画素数が2倍になってしまう問題を解決し、変換前のインタレース動画像の1秒あたりの画素数と比べて変換後のプログレッシブ動画像の1秒あたりの画素数が大きくならないようにすることができる。
これにより、動画像送信装置に要求される処理負荷および通信負荷等の増大を抑制するとともに、動画像受信装置において、再生される動画像の解像度は縮小されるけれども、動画像の深刻な画質の劣化を生じることなくピクチャ周波数を変換して再生することができる。
また、本発明の他の形態である動画像送信装置では、前記入力部は、前記インタレース動画像を前記プログレッシブ動画像に変換する場合、さらに、変換後の前記プログレッシブ動画像の1秒あたりの画素数が、変換前の前記インタレース動画像の1秒あたりの画素数と比べて大きくならないように、前記プログレッシブ動画像のフレーム数を間引くとしてもよい。
本形態によれば、前記インタレース動画像を前記プログレッシブ動画像に変換する場合、変換後のプログレッシブ動画像のフレーム数を間引くので、インタレース動画像のピクチャ周波数を維持したままプログレッシブ動画像に変換した場合にプログレッシブ動画像の1秒あたりの画素数が2倍になってしまう問題を解決し、変換前のインタレース動画像の1秒あたりの画素数と比べて変換後のプログレッシブ動画像の1秒あたりの画素数が大きくならないようにすることができる。
これにより、動画像送信装置に要求される処理負荷および通信負荷等の増大を抑制するとともに、動画像受信装置において、再生される動画像の動きの滑らかさは低減されるけれども、深刻な画質の劣化を生じることなくピクチャ周波数を変換して再生することができるという効果がある。
さらに、本発明の他の形態である前記動画像送信装置は、ユーザによって設定された、画質の指定を含む符号化モードのモード設定を保持するモード設定保持部を備え、前記入力部は、(i)保持している前記モード設定で示される画質の指定が動きを優先する指定でない場合は、前記インタレース動画像をプログレッシブ動画像に変換して、さらに変換後の前記プログレッシブ動画像の1秒あたりの画素数が、変換前の前記インタレース動画像の1秒あたりの画素数と比べて大きくならないように、前記プログレッシブ動画像のフレーム数を間引いて出力し、(ii)保持している前記モード設定で示される画質の指定が動きを優先する指定であり、前記調停部によってピクチャ周波数が一致すると判断された場合は、前記インタレース動画像を前記インタレース動画像のまま出力し、(iii)保持している前記モード設定で示される画質の指定が動きを優先する指定であり、前記調停部によってピクチャ周波数が一致しないと判断された場合は、前記インタレース動画像をプログレッシブ動画像に変換して、さらに変換後の前記プログレッシブ動画像の1秒あたりの画素数が、変換前の前記インタレース動画像の1秒あたりの画素数と比べて大きくならないように、前記プログレッシブ動画像の各フレームに含まれる画素数を縮小して出力する。
本形態によれば、前記動画像送信装置は、(i)、(ii)、(iii)の場合のいずれであるかを判断し、判断結果に応じた最適な動画像を出力することができる。すなわち、(ii)ユーザによる画質の指定が動きを優先する指定である場合に、送信側と受信側とでピクチャ周波数が一致するか否かを判断して、一致すれば、ピクチャ周波数の変換が必要な場合には画質の劣化が大きいけれども、滑らかな動きの動画像を再生することができるインタレース動画像を出力することができる。
また、前記動画像送信装置は、(iii)ユーザによる画質の指定が動きを優先する指定である場合に、送信側と受信側とでピクチャ周波数が一致するか否かを判断して、一致しなければ、ピクチャ周波数の変換を行ったとしてもプログレッシブ動画像であるために画質の劣化が軽微であり、変換前のインタレース動画像の1秒あたりの画素数と比べて変換後のプログレッシブ動画像の1秒あたりの画素数が大きくならないように各フレームに含まれる画素数を縮小したプログレッシブ動画像を出力するので、インタレース動画像ほど滑らかではないが、フレーム間引きされたプログレッシブ動画像よりも滑らかな動きの動画像を再生することができるプログレッシブ動画像を出力することができる。
また、前記動画像送信装置は、(i)ユーザによる画質の指定が動きを優先する指定でない場合には、動画像受信装置とのピクチャ周波数の一致と不一致とにかかわらず、変換前のインタレース動画像の1秒あたりの画素数と比べて変換後のプログレッシブ動画像の1秒あたりの画素数が大きくならないようにフレーム数を間引いてプログレッシブ動画像を出力する。
これにより、ユーザによる画質の指定が動きを優先する指定でない場合には、ピクチャ周波数の変換を行ったとしてもプログレッシブ動画像であるために画質の劣化が軽微であり、変換前のインタレース動画像の1秒あたりの画素数と比べて変換後のプログレッシブ動画像の1秒あたりの画素数が大きくならないように各フレームを間引いたプログレッシブ動画像を出力するので、動きの大きい動画像に対しては滑らかな動きを再生することができないが、動きの小さい画像に対しては、各フレームに含まれる画素数を縮小していないためにきめの細かい画像を再生することができる。
なお、本発明は、装置として実現するだけでなく、このような装置が備える処理手段を備える集積回路として実現したり、その装置を構成する処理手段をステップとする方法として実現したり、それらステップをコンピュータに実行させるプログラムとして実現したり、そのプログラムを示す情報、データまたは信号として実現したりすることもできる。そして、それらプログラム、情報、データ及び信号は、CD−ROM等の記録媒体やインターネット等の通信媒体を介して配信してもよい。
本発明の動画像送信装置によれば、動画像受信装置から動画を表示する際のテレビ方式のピクチャ周波数を示す周波数情報を取得し、動画像送信装置自身に入力される動画像のピクチャ周波数と、前記取得した周波数情報で示されるピクチャ周波数とが一致しない場合に、プログレッシブ動画像で符号化したストリームを動画像受信装置に送信することで、動画像受信装置では受信したストリームをプログレッシブ動画像として復号できるので、復号された動画像のピクチャ周波数と表示部の表示におけるピクチャ周波数とが異なる場合であっても、簡単な構成でありながら軽微な画質劣化で50Hzと60Hzの動画像の表示を実現できる。更に、動画像送信装置に入力される動画像のピクチャ周波数と、前記取得した周波数情報で示されるピクチャ周波数とが一致する場合には、カメラから入力されたインタレース動画像のまま高精度に符号化したストリームを動画像受信装置に送信することができる。
以下、本発明の実施の形態について、図を用いて説明する。
(実施の形態1)
本実施の形態の動画像送受信装置は、インタレース動画像を接続相手の動画像送受信装置に送信する動画像送受信装置であって、インタレース動画像を受信する側の動画像送受信装置から、当該受信側動画像送受信装置の動作周波数を示す周波数情報を取得し、取得した周波数情報で示される動作周波数が送信側の動画像送受信装置の動作周波数と異なる場合には、インタレース動画像をプログレッシブ動画像に変換して接続相手の動画像送受信装置に送信することである。
本実施の形態の動画像送受信装置は、インタレース動画像を接続相手の動画像送受信装置に送信する動画像送受信装置であって、インタレース動画像を受信する側の動画像送受信装置から、当該受信側動画像送受信装置の動作周波数を示す周波数情報を取得し、取得した周波数情報で示される動作周波数が送信側の動画像送受信装置の動作周波数と異なる場合には、インタレース動画像をプログレッシブ動画像に変換して接続相手の動画像送受信装置に送信することである。
図1は本実施の形態1の動画像送受信装置の構成を示すブロック図である。同図において、図19に示した従来の動画像送受信装置に含まれる各ユニットと同じ動作をする機器には同じ番号を付し、説明を省略する。図1に示すように、動画像送受信装置5は、入力部20、動画像メモリ11、50Hz/60Hz調停部21、符号化部22、送信部23、受信部24、復号化部15、表示部16及び動画像メモリ17を備える。
入力部20は、50Hz/60Hz調停部21が、動画像送受信装置5の動作周波数が接続相手の動画像送受信装置の動作周波数と一致しないと判断した場合、入力されたインタレース動画像をプログレッシブ動画像にIP変換する。
50Hz/60Hz調停部21は、入力部20から動画像送受信装置5の動作周波数を取得するとともに、接続相手の動画像送受信装置から受信された周波数情報から、接続相手の動画像送受信装置の動作周波数が50Hzまたは60Hzのいずれであるかを取得し、動画像送受信装置5の動作周波数と接続相手の動画像送受信装置の動作周波数とが一致するか否かを判断する。
符号化部22は、50Hz/60Hz調停部21によって、動画像送受信装置5の動作周波数と接続相手の動画像送受信装置の動作周波数とが一致しないと判断された場合には、入力部20から出力される動画像データをプログレッシブ符号化する。一致すると判断された場合には、入力部20から出力される動画像データをインタレース符号化する。
送信部23は、動画像送受信装置5の動作周波数を示す周波数情報を、接続相手の動画像送受信装置に対し、ネットワークを介して送信する。さらに、50Hz/60Hz調停部21によって、動画像送受信装置5の動作周波数と受信側の動画像送受信装置の動作周波数とが一致しないと判断された場合には、プログレッシブ符号化されたストリームを接続相手の動画像送受信装置に送信し、一致すると判断された場合には、インタレース符号化されたストリームを接続相手の動画像送受信装置に送信する。
受信部24は、接続相手の動画像送受信装置から、符号化されたストリームを受信して復号化部15に出力するとともに、接続相手の動画像送受信装置の動作周波数を示す周波数情報を受信し、受信した周波数情報を50Hz/60Hz調停部21に出力する。
なお、動画像送受信装置が接続相手の動画像送受信装置に対して周波数情報を送受信するタイミングは、(1)テレビ装置などの受信側の動画像送受信装置がネットワークに接続されたときであってもよいし、(2)ネットワーク上に、動画像送受信装置の周波数情報を記憶するサーバを備え、ネットワークに接続した任意のタイミングで周波数情報をサーバを介して送受信するとしてもよい。(3)さらに、ネットワークに接続されたサーバが全ての動画像送受信装置の周波数情報を記憶しており、各動画像送受信装置は、周波数情報を送信せずにサーバから接続相手の周波数情報を取得するのみとしてもよい。
なお、上記の(2)および(3)の場合、送信側の動画像送受信装置が受信側の動画像送受信装置の周波数情報を取得する方法は、例えば、受信側の動画像送受信装置からの接続要求や動画像送信要求などに含まれる受信側動画像送受信装置の機器IDを取得し、取得した機器IDに基づいて、サーバから当該機器IDに対応する周波数情報を読み出すとすればよい。
また、50Hz/60Hz調停部21は、入力部20から動画像送受信装置5の動作周波数を取得するとしたが、動作周波数が50Hzであるか60Hzであるかが固定であれば取得する必要はなく、またスイッチの設定や不揮発メモリに記録されたID情報で動作周波数を識別してもよい。
以上のように構成された動画像送受信装置5の動画像送信側の処理を、図2Aのフローチャートを用いて説明する。
まず、動画像送受信装置5は、50Hz/60Hz調停部21にて、受信部24で受信した相手側の動画像送受信装置のテレビ方式の動作周波数が50Hzか60Hzのいずれであるかを示す周波数情報を取得する(S10)。カメラ1から入力された動画像信号は、入力部20により、動画像メモリ11に一時的に格納される(S11)。50Hz/60Hz調停部21は、入力部20から動画像送受信装置5の動作周波数が50Hzか60Hzのいずれであるかを取得し、受信部24で受信した受信側の動画像送受信装置の動作周波数と一致するかどうかを比較する(S12)。
S12において、50Hz/60Hz調停部21で動作周波数が一致すると判断された場合は(S12でYES)、入力部20から出力されるインタレース動画像を符号化部22で符号化してインタレース動画像のストリームを生成する。
一方、S12において、50Hz/60Hz調停部21で動作周波数が一致しないと判断された場合は(S12でNO)、入力部20に入力されたインタレース動画像信号を入力部20でIP変換してプログレッシブ動画像に変換し(S13)、変換後のプログレッシブ動画像を符号化部22で符号化してプログレッシブ動画像のストリームを生成する(S14)。
送信部23は符号化部22で符号化したストリームを、ネットワークを介して相手側に送信する(S16)。
以上のS11からS16の動作を動画像の全てのフレームに対して繰り返す。
なお、上記の例では、50Hz/60Hz調停部21で動画像送受信装置5と受信側の動画像送受信装置とで動作周波数が一致すると判断された場合には、インタレース動画像を符号化して得られるストリームを、受信側の動画像送受信装置に送信するとしたが、本発明はこれに限定されない。例えば、動画像送受信装置5と受信側の動画像送受信装置とで動作周波数が一致する場合であっても、通信路の状態やユーザの設定によって、IP変換を行い、プログレッシブ動画像を符号化して得られたストリームを受信側の動画像送受信装置に送信するとしてもよい。
その理由は、例えば、インタレース動画像はプログレッシブ動画像に比べて、通信エラーなどによるデータ・ロスに弱いという欠点があるからである。すなわち、インタレース動画像では、エラーによってフィールド単位で画像が受信できなくなる。インタレース動画像はトップ・フィールドとボトム・フィールドを交互に表示する必要があるため、エラーで受信できなかったフィールドを、時間的に近い同じトップもしくはボトムのフィールドを代替として表示したとすると、図18Bに示したのと同様の理由で、必ずボトム・フィールドとトップ・フィールドとの間で表示時間の逆転が生じる。
このような理由から、動画像送受信装置5では、例えば、(1)受信側の動画像送受信装置から受信エラー率を定期的に送信してもらい、エラーの発生率が閾値よりも高いときには、たとえ動画像送受信装置5と受信側の動画像送受信装置との動作周波数が一致した場合であっても、IP変換を行うとしてもよい。また、(2)ユーザがあらかじめ入力部20への入力により、受信するストリームのエラー耐性を優先するモードに設定しておくことによって、エラー耐性を優先するモードが設定されているときには、動画像送受信装置5と受信側の動画像送受信装置との動作周波数が一致した場合であっても、IP変換を行うとしてもよい。
図2Bは、本実施の形態1の動画像送信装置の動作の他の一例を示すフローチャートである。同図に示すように、例えば、50Hz/60Hz調停部21は、動画像送受信装置5の動作周波数が、受信側の動画像送受信装置の動作周波数と一致するか否かを判断し(S12)、一致すると判断した場合にはさらに、動画像送受信装置5のモードがエラー耐性を重視するモードであるか否かを判断し(S26)、エラー耐性を重視するモードであると判断した場合には、入力部20でIP変換を行う(S13)。S26において、エラー耐性を重視するモードではないと判断した場合には、符号化部22でインタレース符号化を行う(S15)。具体的には、S26での判断において、50Hz/60Hz調停部21は、例えば、(1)受信側の動画像送受信装置から受信した受信エラー率が閾値を超えた場合、エラー耐性を重視するモードであると判断する。または、(2)ユーザの入力により、エラー耐性を重視するモードに設定されている場合に、エラー耐性を重視するモードであると判断する。
図3は、本実施の形態1の受信側の動画像送受信装置の動作の一例を示すフローチャートである。次に、動画像送受信装置の動画像受信側の処理を、図3を用いて説明する。
送信部23は、入力部20から取得した動作周波数を示す周波数情報を生成し、ネットワークを介して相手側に送信する(S20)。
受信部24は、ネットワークを介して、相手の動画像送受信装置からストリームを受信し(S21)、受信したストリームを復号化部15で復号化する。ストリームがインタレース動画像であるか、プログレッシブ動画像であるかの識別情報はストリームに含まれている。
復号化部15は、ストリームに含まれている識別情報から、当該ストリームがインタレース動画像であるか否かを判断し(S22)、インタレース動画像であれば(S22でYES)インタレース動画像として復号化し(S24)、インタレース動画像でなければ(S22でNO)プログレッシブ動画像として復号化する(S23)。
復号化した動画像は表示部16により動画像メモリ17に一時的に格納され、復号された動画像のピクチャ周波数と表示部16が表示するテレビ方式のピクチャ周波数とが異なる場合には図17Aまたは図17Bに示したような方法で復号化動画像のピクチャ周波数が変換されて、ディスプレイ2を駆動する動画像信号として出力される(S25)。
以上のS20からS25の動作を動画像の全てのフレームに対して繰り返す。
以上の動作により、動画像送受信装置5では、動画像送受信装置5の動作周波数が相手と一致する場合にはインタレース動画像を符号化したストリームを送受信し、動画像送受信装置5の動作周波数が相手と一致しない場合は入力部20でカメラ1のインタレース動画像をプログレッシブ動画像に変換してプログレッシブ動画像を符号化したストリームを送受信できる。
従って、動作周波数が相手と一致する場合には受信側でインタレース動画像を支障なく表示することができ、動作周波数が相手と一致しない場合でも図17Aまたは図17Bのように、プログレッシブ動画像の50Hzと60Hzと間の変換を行うことによって、軽微な画質劣化で動画像を表示することができる。
なお、図1に示した同一周波数動作部R2の動作周波数は、カメラ1およびディスプレイ2の両者の動作周波数と一致する。仮にネットワークから受信して復号化部15で復号化したプログレッシブ動画像の動作周波数が、同一周波数動作部R2と異なったとしても、復号化して得られた動画像データを一旦、動画像メモリ17に格納した上で表示画像を、表示部16が動画像メモリ17から同一周波数動作部R2で読み出してディスプレイ2に表示させることにより所望の動作を行うことができる。
(実施の形態2)
図4は、動画像の画像形式と画素数との関係を示す表である。現在のカメラはフルHDインタレース動画像が主流であり、1秒あたりの画素数は60Hz(30フレーム/秒、60フィールド/秒)で約6200万画素(図4の上から2行目の欄参照)、50Hz(25フレーム/秒、50フィールド/秒)で約5200万画素(図4の上から6行目の欄参照)である。これをフルHDプログレッシブ動画像に変換した場合、1秒あたりの画素数は約2倍の約12400万画素(図4の上から1行目の欄参照)となり、符号化ストリームのビットレートも大きくなってしまう。一方、フルHDインタレース動画像を、HD解像度と言われる1280×720画素のHDプログレッシブ動画像に変換した場合、1秒あたりの画素数は60Hzで約5500万画素(図4の上から4行目の欄参照)、50Hzで約4600万画素(図4の上から8行目の欄参照)であり、フルHDインタレース動画像の場合より若干少なくなるので、符号化ストリームのビットレートがフルHDインタレース動画像より大きくなる可能性が少ない。従って、動画像送受信装置と相手側の50Hz/60Hzの動作周波数が一致しない場合にフルHDインタレース動画像をHDプログレッシブ動画像に変換すれば、相手側の動作周波数の違いによる符号化ストリームのビットレートの変化が少ないのでネットワークの通信負荷が平滑化されて安定した通信ができるという利点がある。
図4は、動画像の画像形式と画素数との関係を示す表である。現在のカメラはフルHDインタレース動画像が主流であり、1秒あたりの画素数は60Hz(30フレーム/秒、60フィールド/秒)で約6200万画素(図4の上から2行目の欄参照)、50Hz(25フレーム/秒、50フィールド/秒)で約5200万画素(図4の上から6行目の欄参照)である。これをフルHDプログレッシブ動画像に変換した場合、1秒あたりの画素数は約2倍の約12400万画素(図4の上から1行目の欄参照)となり、符号化ストリームのビットレートも大きくなってしまう。一方、フルHDインタレース動画像を、HD解像度と言われる1280×720画素のHDプログレッシブ動画像に変換した場合、1秒あたりの画素数は60Hzで約5500万画素(図4の上から4行目の欄参照)、50Hzで約4600万画素(図4の上から8行目の欄参照)であり、フルHDインタレース動画像の場合より若干少なくなるので、符号化ストリームのビットレートがフルHDインタレース動画像より大きくなる可能性が少ない。従って、動画像送受信装置と相手側の50Hz/60Hzの動作周波数が一致しない場合にフルHDインタレース動画像をHDプログレッシブ動画像に変換すれば、相手側の動作周波数の違いによる符号化ストリームのビットレートの変化が少ないのでネットワークの通信負荷が平滑化されて安定した通信ができるという利点がある。
また、フルHDインタレース動画像を、HD解像度と言われる1280×720画素のHDプログレッシブ動画像に変換する代わりに、解像度はフルHDのままで1秒あたりのフレーム数を1/2に間引きした“フルHDプログレッシブ(フレーム1/2間引き)動画像”に変換した場合、1秒あたりの画素数は60Hz(30フレーム/秒)で約6200万画素(図4の上から3行目の欄参照)、50Hz(25フレーム/秒)で約5200万画素(図4の上から7行目の欄参照)となる。
このように、フルHDインタレース動画像と、フルHDインタレース動画像をフルHDプログレッシブ(フレーム1/2間引き)動画像に変換した場合とでは、1秒あたりの画素数は同じである。しかし、フルHDプログレッシブ(フレーム1/2間引き)動画像では、フルHDインタレース動画像に比べて、1つ1つの画像の垂直画素数が倍になるので、画像がよりきめ細かく表示されるのに対し、1つ1つの画像を表示する時間間隔が倍になるので、速い動きの画像に対してフルHDインタレース動画像よりも動き追従性が劣ることになる。
従って、同じビットレートで、動画像の動きが比較的小さく、きめ細かい画像を表示させたい解像度優先の場合にはフルHDプログレッシブ(フレーム1/2間引き)動画像が適しており、逆に、動画像の動きが大きく、滑らかな動きの画像を表示させたい動き優先の場合にはフルHDインタレース動画像が適しているといえる。
一方、符号化または復号化における処理負荷の点では、フルHDプログレッシブ(フレーム1/2間引き)動画像では、60Hzの場合1/30秒ごとに、50Hzの場合1/25秒ごとに1フレーム約200万画素のデータを処理しなければならないのに対し、フルHDインタレース動画像では、60Hzの場合1/60秒ごとに、50Hzの場合1/50秒ごとに1フィールド約100万画素のデータを処理すればよいので、動作周波数を低く抑えられるという利点がある。
図5は、本実施の形態2の入力部20のより詳細な構成を示すブロック図であり、図6は、本実施の形態2の入力部によって行われる解像度縮小を伴うIP変換の原理を説明する図である。
図5に示すように、入力部20は、切り替えスイッチ100、IP変換部101、切り替えスイッチ102、画像縮小部103、切り替えスイッチ104およびフレーム間引き部105を備える。切り替えスイッチ100は、50Hz/60Hz調停部21の判断に従って、動画像送受信装置5の動作周波数と受信側の動画像送受信装置の動作周波数とが一致すると判断された場合、IP変換部101を迂回する下側の端子に切り替えられ、一致しないと判断された場合、IP変換部101に接続する側の端子に切り替えられる。
IP変換部101は、入力されるインタレース動画像を、プログレッシブ動画像に変換する。IP変換部101のIP変換は、図20を用いて説明したのと同様に、前後のフィールドを含む3フィールドを参照して1フレームの画像を生成する。
切り替えスイッチ102は、50Hz/60Hz調停部21の判断結果に応じて、動画像送受信装置5の動作周波数と受信側の動画像送受信装置の動作周波数とが一致すると判断された場合、画像縮小部103を迂回する下側の端子に切り替えられ、一致しないと判断された場合、画像縮小部103に接続する側の端子に切り替えられる。切り替えスイッチ104は、本実施の形態2ではフレーム間引き部105を迂回する下側の端子に接続される。フレーム間引き部105については、以下の実施の形態3で説明する。
図5に示したように、入力部20に入力されたフルHDインタレース動画像は、50Hz/60Hz調停部21により、動画像送受信装置5の動作周波数と受信側の動画像送受信装置の動作周波数とが一致しないと判断された場合、IP変換部101によるIP変換によってフルHDプログレッシブ動画像に変換された後、画像縮小部103によって解像度を縮小されたHDプログレッシブ動画像になる。図6を見ても分かるように、本実施の形態2の入力部20の内部では、IP変換後のプログレッシブ動画像も、解像度縮小後のプログレッシブ動画像も、動作周波数(50Hz/60Hz)の変換を行っていないため、切り替えスイッチ100、IP変換部101、切り替えスイッチ102、画像縮小部103、切り替えスイッチ104およびフレーム間引き部105は、同一の動作周波数で動作する。
図7Aおよび図7Bは、解像度縮小を伴うIP変換を行う本実施の形態2の動画像送受信装置の動作を示すフローチャートである。以下、図7Aの解像度縮小を伴う本実施の形態2の動画像送受信装置の動作を、図2Aに示した実施の形態1の動画像送受信装置の動作と異なる部分についてのみ説明する。
50Hz/60Hz調停部21で動作周波数が一致しないと判断された場合は(S12でNO)、入力部20の切り替えスイッチ100を切り替えて、IP変換部101でIP変換を行ってインタレース動画像をプログレッシブ動画像に変換する(S13)。次に、解像度が同一のままプログレッシブ動画像に変換すると1秒あたりの画素数が2倍に増えるため、切り替えスイッチ102を切り替えて画像縮小部103で解像度を縮小したプログレッシブ動画像に変換し(S30)、符号化部22でプログレッシブ動画像を符号化する(S14)。
50Hz/60Hz調停部21で動作周波数が一致すると判断された場合は(S12でYES)、切り替えスイッチ100と切り替えスイッチ102と切り替えスイッチ104を切り替えてIP変換部101と画像縮小部103と後述のフレーム間引き部105を通らないようにし、符号化部22でインタレース動画像を符号化する(S15)。
また、本実施の形態2では、IP変換の後、プログレッシブ動画像の解像度を縮小することによって、符号化ストリームのビットレートの増加を抑制して安定した通信を行うという効果を奏している。本実施の形態の他の例では、これをさらに応用して、動画像送受信装置5と受信側の動画像送受信装置との動作周波数が一致する場合であっても、解像度を優先しないモードに設定されている場合は、IP変換と画像サイズの縮小を行うとしてもよい。図7Bは、解像度縮小を伴うIP変換を行う動画像送受信装置の動作の他の例を示すフローチャートである。図7Bのように、50Hz/60Hz調停部21で動画像送受信装置5と受信側の動画像送受信装置との動作周波数が一致すると判断された場合であっても、ユーザが解像度を重視しない場合は(S31でNO)、受信したインタレース動画像をプログレッシブ動画像に変換して(S13)、さらに画像サイズを縮小して(S30)し、HDプログレッシブ符号化(S14)できるようにしてもよい。
プログレッシブ動画像にすることで、画像縮小部103で解像度を低くすることで、図4の動画像形式と画素数の関係で説明したように1秒あたりの画素数が小さくなるので、符号化したストリームのビットレートが小さくなる利点がある。
なお、この実施の形態2では切り替えスイッチ104はフレーム間引き部105を通らないようにし、全てのフレーム(フィールド)を、すなわち、間引かずに符号化部22で符号化する。
(実施の形態3)
上記実施の形態2では、IP変換によるビットレートの増加を、IP変換後のフレームの解像度を小さくすることにより適切に小さくすることができた。
上記実施の形態2では、IP変換によるビットレートの増加を、IP変換後のフレームの解像度を小さくすることにより適切に小さくすることができた。
実施の形態3では、プログレッシブ動画像の解像度を小さくする代わりに、フレームを間引いて符号化することによって符号化ストリームのビットレートを抑制する。
図4の動画像形式と画素数の関係で示したように、フルHDインタレース動画像をフルHDプログレッシブ動画像に変換した場合、1秒あたりの画素数は約2倍となるが、フルHDプログレッシブの1秒あたりのフレーム数を1/2にすれば、1秒あたりの画素数はフルHDインタレース動画像と同一になる。
従って、動画像送受信装置と相手側の50Hz/60Hzの動作周波数が一致しない場合にフルHDインタレース動画像をフレーム数1/2のフルHDプログレッシブ(フレーム1/2間引き)動画像に変換すれば、相手側の動作周波数の違いによる符号化ストリームのビットレートの変化が少ないのでネットワークの通信負荷が平滑化されて安定した通信ができる利点がある。
図8はフレーム間引きを伴う本実施の形態の入力部10の説明図である。フルHDインタレース動画像はIP変換によってフルHDプログレッシブ動画像に変換された後、フレーム数を1/2にしたフルHDプログレッシブ(フレーム1/2間引き)動画像になる。
図5は本実施の形態の入力部20の構成を示すブロック図であり、図9はフレーム間引きを伴う本実施の形態の動画像送信方法のフローチャートである。以下、図9はフレーム間引きを伴うIP変換を行う本実施の形態3の動画像送受信装置の動作を示すフローチャートであり、図2Aの本実施の形態1のフローチャートと異なる部分についてのみ説明する。
50Hz/60Hz調停部21で動作周波数が一致しない場合は(S12でNO)、入力部20の切り替えスイッチ100を切り替えてIP変換部101でIP変換を行ってフルHDインタレース動画像をフルHDプログレッシブ動画像に変換する(S13)。次に、解像度は縮小しないので切り替えスイッチ102は画像縮小部103を通らないようにする。受信されたフルHDインタレース動画像をフレーム数が同一のままフルHDプログレッシブ動画像に変換すると、1秒あたりの画素数が2倍に増えるため、切り替えスイッチ104を切り替えてフレーム間引き部105に接続し、フレーム間引き部105でフルHDプログレッシブ動画像のフレーム数を1/2にしたフルHDプログレッシブ(フレーム1/2間引き)動画像に変換して(S40)、符号化部22でフルHDプログレッシブ(フレーム1/2間引き)動画像を符号化する(S14)。
50Hz/60Hz調停部21で動作周波数が一致する場合は(S12でYES)、切り替えスイッチ100、切り替えスイッチ102、および切り替えスイッチ104を切り替えて、IP変換部101と画像縮小部103、およびフレーム間引き部105を通らないようにし、符号化部22でフルHDインタレース動画像を符号化する(S15)。
IP変換により得られたフルHDプログレッシブ動画像の単位時間あたりのフレーム数を、フレーム間引き部105で1/2にすることで、フレーム数が小さくなり、動きの滑らかさが損なわれるという問題があるが、図4の動画像形式と画素数の関係で説明したように1秒あたりの画素数を小さくすることができるので、符号化したストリームのビットレートが小さくなるという利点がある。
(実施の形態4)
図10は実施の形態4の動画像送信装置の構成を示すブロック図である。図10で、図1および図5の動画像送受信装置に含まれる各ユニットと同じ動作をするユニットには同じ番号を付し、説明を省略する。
図10は実施の形態4の動画像送信装置の構成を示すブロック図である。図10で、図1および図5の動画像送受信装置に含まれる各ユニットと同じ動作をするユニットには同じ番号を付し、説明を省略する。
実施の形態4の動画像送信装置7は、カメラ1に接続され、動画像の符号化ストリームを受信側の装置に対して送信する機能だけを備え、動画像メモリ11、入力部20、50Hz/60Hz調停部21、符号化部22、送信部23、および受信部24を備える。
同図に示すように、動画像の復号化機能を持たない動画像送信装置7であっても、50Hz/60Hz調停部21で相手側の動画像受信装置の動作周波数が50Hzか60Hzのいずれであるかを示す周波数情報を相手側から取得するために、受信部24を備える。
また、動画像送信装置7には表示部がないので、動画像送信装置7自身の動作周波数と受信側の動画像受信装置の動作周波数とが一致するか否かの判断において、50Hz/60Hz調停部21.は、動画像送信装置7自身の動作周波数が50Hzであるか60Hzであるかを入力部20に問い合わせるものとする。
50Hz/60Hz調停部21で、動画像送信装置7自身の動作周波数と、受信側の動画像送信装置の動作周波数とが一致すると判断された場合は、入力部20から出力されるインタレース動画像を符号化部22で符号化して、インタレース動画像のストリームを生成する。
50Hz/60Hz調停部21で、動画像送信装置7自身の動作周波数と、受信側の動画像受信装置の動作周波数とが一致しないと判断された場合は、入力部20に入力されたインタレース動画像信号を入力部20でIP変換してプログレッシブ動画像に変換した上、プログレッシブ動画像を符号化部22で符号化してプログレッシブ動画像のストリームを生成する。
(実施の形態5)
図11は本実施の形態5の動画像受信装置の構成を示すブロック図である。図11で、図1および図5の動画像送受信装置の各ユニットと同じ動作をするユニットは同じ番号を付し、説明を省略する。
図11は本実施の形態5の動画像受信装置の構成を示すブロック図である。図11で、図1および図5の動画像送受信装置の各ユニットと同じ動作をするユニットは同じ番号を付し、説明を省略する。
実施の形態5の動画像受信装置8は、ディスプレイ2に接続され、動画像の符号化ストリームを受信して表示する機能だけを備え、復号化部15、動画像メモリ17、受信部24、50Hz/60Hz調停部30、送信部31、および表示部32を備える。
同図に示すように、動画像の符号化機能を持たない動画像受信装置8であっても、通信相手の動画像送信装置の50Hz/60Hz調停部21に動画像受信装置8の動作周波数が50Hzか60Hzのいずれであるかを通知するために、50Hz/60Hz調停部30は、表示部32から動作周波数を取得する。そして、50Hz/60Hz調停部30は、取得した動作周波数を示す周波数情報を生成して送信部31から通信相手の動画像送信装置に対して、ネットワーク経由で周波数情報を通知する。
このように実施の形態5の動画像受信装置8を構成することによって、通信相手の動画像送信装置において、当該動画像送信装置の動作周波数が、ネットワーク経由で通知された周波数情報で示される動画像受信装置8の動作周波数と一致するかどうかを判断することができる。
これにより、両者の動作周波数が一致すれば、動画像送信装置からインタレース動画像の符号化ストリームを動画像受信装置8に送信することができ、動画像受信装置8では、受信したインタレース動画像の符号化ストリームを正しく復号化し、表示することができる。
また、両者の動作周波数が一致しない場合は、動画像送信装置からプログレッシブ動画像の符号化ストリームを動画像受信装置8に送信することができ、動画像受信装置8では受信したプログレッシブ動画像の符号化ストリームを正しく復号化し、僅かな画質劣化のみで表示できる。
(実施の形態6)
上記実施の形態1〜5では、動画像送受信装置が送信する動画像の画質および最大解像度に対してユーザの設定がない場合について説明したが、本発明はこれに限定されない。本実施の形態6では、動画像送受信装置が送信する動画像の画質および最大解像度に対して、ユーザの設定がある場合について説明する。
上記実施の形態1〜5では、動画像送受信装置が送信する動画像の画質および最大解像度に対してユーザの設定がない場合について説明したが、本発明はこれに限定されない。本実施の形態6では、動画像送受信装置が送信する動画像の画質および最大解像度に対して、ユーザの設定がある場合について説明する。
図12Aは、本実施の形態6の動画像送受信装置においてピクチャ周波数が異なる動画像送受信装置との通信を前提としない場合における符号化モードのユーザ設定とそれに対応する符号化画像との関係を示す図である。
すなわち、図12Aでは、送信側の動画像送受信装置と受信側の動画像送受信装置とのピクチャ周波数が常に一致する場合を想定している。図12Bは、本実施の形態6の動画像送受信装置においてピクチャ周波数が異なる動画像送受信装置との通信を前提とした場合における符号化モードのユーザ設定とそれに対応する符号化画像との関係を示す図である。
すなわち、図12Bでは、送信側の動画像送受信装置と受信側の動画像送受信装置とのピクチャ周波数が一致しない場合を想定して、一致しない場合には受信側の動画像送受信装置において深刻な画質劣化を生じることなくピクチャ周波数を変換して再生することができるようにした設定となっている。
本実施の形態6における動画像送信装置または動画像送受信装置の構成は、図1に示した動画像送受信装置5または図10に示した動画像送信装置7の構成に加えて、例えば、入力部20に図示しない操作部およびモード設定保持部を備える点が異なるだけである。
操作部は、ユーザの操作により、動画像送受信装置5または動画像送信装置7への入力を受け付ける。
モード設定保持部は、操作部で受け付けられた入力に従って、ユーザが設定した画質の指定を含む符号化モードのモード設定を保持する。
以上のように構成された実施の形態6の動画像送受信装置は、以下のように動作する。具体的には、動画像送受信装置は、ピクチャ周波数が異なる動画像送受信装置との通信を前提としない場合、図12Aに示すようにユーザによって、最大解像度が「フルHD」に設定され、画質が「動き優先」に設定されている場合には、入力部20でIP変換を行わず、カメラ1で撮影されたフルHDインタレースの動画像をそのまま符号化して送信する。
また、最大解像度が「フルHD」に設定され、画質が「解像度優先」に設定されている場合には、カメラ1で撮像されたフルHDインタレース動画像に対し、入力部20でIP変換を行った上、フレーム間引きを行い、フルHDプログレッシブ(フレーム1/2間引き)の動画像を符号化して送信する。
さらに、最大解像度が「HD」に設定されている場合には、画質が「動き優先」に設定されている場合であっても「解像度優先」に設定されている場合であっても、入力部20でIP変換を行うとともに、解像度を縮小して、HDプログレッシブの動画像を符号化して送信する。
このように動画像送受信装置の動作を制御することによって、ピクチャ周波数が異なる動画像送受信装置との通信を前提としない場合には、最大解像度が「フルHD」で画質が「動き優先」に設定されている場合、フルHDインタレースの動画像を符号化して送信することにより、最大解像度をフルHDに維持したまま、プログレッシブ動画像よりも解像度は低下するけれども、より動きの滑らかなインタレース動画像を送信することができる。
また、最大解像度が「フルHD」で画質が「解像度優先」に設定されている場合、フルHDプログレッシブ(フレーム1/2間引き)の動画像を符号化して送信することにより、最大解像度とビットレートとを維持したまま、インタレース動画像よりも動きの滑らかさは低下するけれども、エラー耐性が高く、より解像度の高いプログレッシブ動画像を送信することができる。
また、最大解像度が「HD」に設定されている場合には、HDプログレッシブの動画像を符号化して送信することにより、フルHDプログレッシブ動画像よりは最大解像度が低いけれどもプログレッシブであるのでインタレース動画像よりも解像度が高く、かつ、エラー耐性が高く、また、フルHDプログレッシブ(フレーム1/2間引き)よりもピクチャ周波数が高いのでより動きが滑らかな動画像を送信することができる。
また、動画像送受信装置は、ピクチャ周波数が異なる動画像送受信装置との通信を前提とした場合、図12Bに示すようにユーザによって、最大解像度が「フルHD」に設定され、画質が「動き優先」に設定されている場合には、入力部20でIP変換を行うとともに、解像度を縮小して、HDプログレッシブの動画像を符号化して送信する。
また、最大解像度が「フルHD」に設定され、画質が「解像度優先」に設定されている場合には、カメラ1で撮像されたフルHDインタレース動画像に対し、入力部20でIP変換を行った上、フレーム間引きを行い、フルHDプログレッシブ(フレーム1/2間引き)の動画像を符号化して送信する。
さらに、最大解像度が「HD」に設定されている場合には、画質が「動き優先」に設定されている場合であっても、「解像度優先」に設定されている場合であっても、入力部20でIP変換を行うとともに、解像度を縮小して、HDプログレッシブの動画像を送信する。
このように、図12Aと図12Bとの相違点は、最大解像度が「フルHD」に設定され、画質が「動き優先」に設定されている場合である。ピクチャ周波数が異なる動画像送受信装置との通信を前提とした場合には、フルHDインタレース動画像を送信する代わりに、解像度を縮小したプログレッシブ動画像であるHDプログレッシブ動画像を送信する。
動画像送受信装置が、フルHDインタレース動画像を送信する代わりにHDプログレッシブ動画像を送信する理由は、インタレース動画像はプログレッシブ動画像に比べてエラー耐性が低いことと、受信側の動画像送受信装置において、受信したインタレース動画像のピクチャ周波数を変換した場合、図18Aおよび図18Bを用いて説明したような、非常に深刻な画質劣化が生じるからである。
従って、ピクチャ周波数が異なる動画像送受信装置との通信を前提とした場合には、最大解像度が「フルHD」に設定され、画質が「動き優先」に設定されている場合に、HDプログレッシブ動画像を符号化して送信するように制御することによって、ビットレートの増加を抑制しつつ、ピクチャ周波数が異なる動画像送受信装置においても、画質劣化の少ない動画像を再生することが可能となる。
以下では、図12Aおよび図12Bに示したユーザの設定がされていた場合に、接続先の動画像送受信装置とピクチャ周波数が一致するか否かを動画像送受信装置が判断し、判断結果に応じて、図12Aに示した処理と図12Bに示した処理とを切り替える動画像送受信装置の動作について説明する。図13は、符号化モードのユーザ設定がある場合に、接続先の動画像送受信装置のピクチャ周波数に応じて符号化モードを切り替える動画像送受信装置の動作の一例を示すフローチャートである。
まず、動画像送受信装置5は、50Hz/60Hz調停部21にて、受信部24で受信した相手側の動画像送受信装置のテレビ方式の動作周波数が50Hzか60Hzのいずれであるかを示す周波数情報を取得する(S10)。カメラ1から入力された動画像信号は、入力部20により、動画像メモリ11に一時的に格納される(S11)。
50Hz/60Hz調停部21は、保持されているユーザのモード設定において、最大解像度が「フルHD」に設定されているか否かを判断し(S41)、最大解像度が「フルHD」に設定されていないと判断した場合は(S41でNO)、IP変換部101でIP変換を行って得られたフルHDインタレース動画像をフルHDプログレッシブ動画像に変換した後、画像縮小部103で解像度を縮小し、符号化部22でHDプログレッシブ動画像を符号化する(S43)。
50Hz/60Hz調停部21は、保持されているユーザのモード設定において、最大解像度が「フルHD」に設定されていると判断した場合は(S41でYES)、さらに、保持されているモード設定により、画質が「動き優先」に設定されているか否かを判断する(S42)。画質が「動き優先」に設定されていないと判断した場合(S42でNO)、入力部20はIP変換部101でIP変換を行ってフルHDインタレース動画像をフルHDプログレッシブ動画像に変換するとともに、受信されたフルHDインタレース動画像をフレーム数が同一のままフルHDプログレッシブ動画像に変換する。これによると、1秒あたりの画素数が2倍に増えるため、フレーム間引き部105でフルHDプログレッシブ動画像のフレーム数を1/2にしたフルHDプログレッシブ(フレーム1/2間引き)動画像に変換した上、符号化部22で符号化する(S40)。
さらに、50Hz/60Hz調停部21は、保持されているユーザのモード設定において、画質が「動き優先」に設定されていると判断した場合には(S42でYES)、さらに、受信部24で受信した相手側の動画像送受信装置のテレビ方式の動作周波数が50Hzか60Hzのいずれであるかを示す周波数情報を取得し、受信部24で受信した受信側の動画像送受信装置の動作周波数と一致するかどうかを比較する(S12)。
S12において、50Hz/60Hz調停部21で動作周波数が一致すると判断された場合は(S12でYES)、入力部20から出力されるフルHDインタレース動画像を符号化部22で符号化してフルHDインタレース動画像のストリームを生成する(S15)。
50Hz/60Hz調停部21で動作周波数が一致しないと判断した場合は(S12でNO)、S43の処理に移り、HDプログレッシブ動画像を符号化する。
送信部23は符号化部22で符号化したストリームを、ネットワークを介して相手側に送信する(S16)。
以上のS11からS16の動作を動画像の全てのフレームに対して繰り返す。
このように送信側の動画像送受信装置の動作を制御することによって、
(1)接続先の動画像送受信装置のピクチャ周波数が送信側の動画像送受信装置と一致し、かつ、最大解像度が「フルHD」で画質が「動き優先」に設定されている場合には、フルHDインタレースの動画像を送信することにより、最大解像度をフルHDに維持したまま、プログレッシブ動画像よりも解像度は低下するけれども、より動きの滑らかなインタレース動画像を送信することができる。
(2)また、最大解像度が「フルHD」で画質が「解像度優先」に設定されている場合、フルHDプログレッシブ(フレーム1/2間引き)の動画像を送信することにより、最大解像度をフルHDに維持したまま、インタレース動画像よりは動きの滑らかさが低下するけれども、よりエラー耐性が高く、より解像度の高いプログレッシブ動画像を送信することができる。
(3)さらに、最大解像度が「HD」に設定されている場合には、画質の設定にかかわらずHDプログレッシブの動画像を送信することにより、フルHDプログレッシブ動画像よりは最大解像度が低いけれどもプログレッシブであるのでインタレース動画像よりも解像度が高く、かつ、エラー耐性が高く、また、フルHDプログレッシブ(フレーム1/2間引き)よりもピクチャ周波数が高いことからより動きが滑らかな動画像を送信することができる。
(1)接続先の動画像送受信装置のピクチャ周波数が送信側の動画像送受信装置と一致し、かつ、最大解像度が「フルHD」で画質が「動き優先」に設定されている場合には、フルHDインタレースの動画像を送信することにより、最大解像度をフルHDに維持したまま、プログレッシブ動画像よりも解像度は低下するけれども、より動きの滑らかなインタレース動画像を送信することができる。
(2)また、最大解像度が「フルHD」で画質が「解像度優先」に設定されている場合、フルHDプログレッシブ(フレーム1/2間引き)の動画像を送信することにより、最大解像度をフルHDに維持したまま、インタレース動画像よりは動きの滑らかさが低下するけれども、よりエラー耐性が高く、より解像度の高いプログレッシブ動画像を送信することができる。
(3)さらに、最大解像度が「HD」に設定されている場合には、画質の設定にかかわらずHDプログレッシブの動画像を送信することにより、フルHDプログレッシブ動画像よりは最大解像度が低いけれどもプログレッシブであるのでインタレース動画像よりも解像度が高く、かつ、エラー耐性が高く、また、フルHDプログレッシブ(フレーム1/2間引き)よりもピクチャ周波数が高いことからより動きが滑らかな動画像を送信することができる。
以上、本発明の動画像送信装置7、動画像受信装置8および動画像送受信装置5について、実施の形態に基づいて説明したが、本発明は、この実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を任意に組み合わせて構築される形態も、本発明の範囲内に含まれる。
本発明は、テレビ方式の50Hz圏内と60Hz圏内との間の高画質な動画像送受信に利用でき、特に、テレビ会議、テレビ電話、動画像配信、および動画像を用いた監視システムに利用することができる。
1 カメラ
2 ディスプレイ
3 動画像送受信装置
5 動画像送受信装置
7 動画像送信装置
8 動画像受信装置
10 入力部
11 動画像メモリ
12 符号化部
13 送信部
14 受信部
15 復号化部
16 表示部
17 動画像メモリ
20 入力部
21 50Hz/60Hz調停部
22 符号化部
23 送信部
24 受信部
30 調停部
31 送信部
32 表示部
100 切り替えスイッチ
101 IP変換部
102 切り替えスイッチ
103 画像縮小部
104 切り替えスイッチ
105 フレーム間引き部
2 ディスプレイ
3 動画像送受信装置
5 動画像送受信装置
7 動画像送信装置
8 動画像受信装置
10 入力部
11 動画像メモリ
12 符号化部
13 送信部
14 受信部
15 復号化部
16 表示部
17 動画像メモリ
20 入力部
21 50Hz/60Hz調停部
22 符号化部
23 送信部
24 受信部
30 調停部
31 送信部
32 表示部
100 切り替えスイッチ
101 IP変換部
102 切り替えスイッチ
103 画像縮小部
104 切り替えスイッチ
105 フレーム間引き部
Claims (12)
- 所定の撮像装置で撮像されるインタレース動画像を入力して所定の画像フォーマットの動画像を出力する入力部と、
前記入力されたインタレース動画像の送信先である動画像受信装置から、前記インタレース動画像を構成するトップ・フィールドとボトム・フィールドのそれぞれと、プログレッシブ動画像の1フレームとを、いずれも1ピクチャと換算し、単位時間あたりに表示されるピクチャの数をピクチャ周波数とした場合に、前記動画像受信装置における前記ピクチャ周波数を示す周波数情報を受信する受信部と、
入力された前記インタレース動画像の前記ピクチャ周波数と、前記動画像受信装置から受信した前記周波数情報で示される前記ピクチャ周波数とが一致しているか否かを判断する調停部と、
前記入力部から出力される動画像を符号化してストリームを生成する符号化部と、
生成された前記ストリームを前記動画像受信装置に送信する送信部と、を備え、
前記ピクチャ周波数は、前記動画像受信装置のテレビ方式が50Hzおよび60Hzのいずれであるかを示し、
前記入力部は、入力された前記インタレース動画像のピクチャ周波数と前記動画像受信装置から受信した前記周波数情報で示されるピクチャ周波数とが一致しないと前記調停部によって判断された場合は、前記インタレース動画像をプログレッシブ動画像に変換して出力し、ピクチャ周波数が一致すると判断された場合は、前記インタレース動画像を前記インタレース動画像のまま出力する
ことを特徴とする動画像送信装置。 - 前記入力部が前記インタレース動画像を前記プログレッシブ動画像に変換する場合、前記入力部は、前記インタレース動画像の前記ピクチャ周波数を維持したまま、前記プログレッシブ動画像に変換する
請求項1記載の動画像送信装置。 - 前記調停部は、前記動画像送信装置自身に入力される動画像のピクチャ周波数と前記動画像受信装置から受信した前記周波数情報で示されるピクチャ周波数とが一致すると判断した場合、さらに、ユーザの入力または通信路の状態があらかじめ定められた条件を満足するか否かを判断し、
前記入力部は、前記条件が満足されると前記調停部によって判断された場合、前記インタレース動画像をプログレッシブ動画像に変換する
請求項1又は請求項2に記載の動画像送信装置。 - 前記受信部は、複数の動画像受信装置から前記周波数情報を取得し、
前記入力部は、前記複数の動画像受信装置から受信した前記周波数情報のそれぞれで示されるピクチャ周波数のうち、1つでも前記動画像送信装置自身に入力される動画像のピクチャ周波数と一致しないと前記調停部によって判断された場合、前記インタレース動画像をプログレッシブ動画像に変換する
請求項1〜3のいずれか1項に記載の動画像送信装置。 - 前記入力部は、前記インタレース動画像を前記プログレッシブ動画像に変換する場合、さらに、変換後の前記プログレッシブ動画像の1秒あたりの画素数が、変換前の前記インタレース動画像の1秒あたりの画素数と比べて大きくならないように、前記プログレッシブ動画像の各フレームに含まれる画素数を縮小する
請求項1〜4のいずれか1項に記載の動画像送信装置。 - 前記入力部は、前記インタレース動画像を前記プログレッシブ動画像に変換する場合、さらに、変換後の前記プログレッシブ動画像の1秒あたりの画素数が、変換前の前記インタレース動画像の1秒あたりの画素数と比べて大きくならないように、前記プログレッシブ動画像のフレーム数を間引く
請求項1記載の動画像送信装置。 - 前記動画像送信装置は、さらに、ユーザによって設定された、画質の指定を含む符号化モードのモード設定を保持するモード設定保持部を備え、
前記入力部は、(i)保持している前記モード設定で示される画質の指定が動きを優先する指定でない場合は、前記インタレース動画像をプログレッシブ動画像に変換して、さらに変換後の前記プログレッシブ動画像の1秒あたりの画素数が、変換前の前記インタレース動画像の1秒あたりの画素数と比べて大きくならないように、前記プログレッシブ動画像のフレーム数を間引いて出力し、
(ii)保持している前記モード設定で示される画質の指定が動きを優先する指定であり、前記調停部によってピクチャ周波数が一致すると判断された場合は、前記インタレース動画像を前記インタレース動画像のまま出力し、
(iii)保持している前記モード設定で示される画質の指定が動きを優先する指定であり、前記調停部によってピクチャ周波数が一致しないと判断された場合は、前記インタレース動画像をプログレッシブ動画像に変換して、さらに変換後の前記プログレッシブ動画像の1秒あたりの画素数が、変換前の前記インタレース動画像の1秒あたりの画素数と比べて大きくならないように、前記プログレッシブ動画像の各フレームに含まれる画素数を縮小して出力する
請求項1記載の動画像送信装置。 - 動画像送信装置から動画像のストリームを受信し、受信したストリームを復号化して得られる動画像を出力する動画像受信装置であって、
前記復号化により得られた前記動画像を表示する表示部と、
インタレース動画像を構成するトップ・フィールドとボトム・フィールドのそれぞれと、プログレッシブ動画像の1フレームとを、いずれも1ピクチャと換算した場合における、前記表示部において単位時間あたりに表示されるピクチャの数であるピクチャ周波数が、テレビ方式の50Hzであるかテレビ方式の60Hzであるかを取得し、取得した前記ピクチャ周波数を示す周波数情報を生成する周波数取得部と、
生成された前記周波数情報を前記動画像送信装置に送信する送信部と、
送信した前記周波数情報に基づいて前記動画像送信装置で符号化された動画像のストリームを、前記動画像送信装置から受信して復号化する復号化部と、を備え、
前記表示部は、前記復号化部での復号化によって得られた動画像を出力する
動画像受信装置。 - インタレース動画像を符号化して第1の動画像受信装置に送信する第2の動画像送信装置と、第1の動画像送信装置から動画像のストリームを受信して動画像を復号化し出力する第2の動画像受信装置との両方の機能を備える動画像送受信装置であって、
所定の撮像装置で撮像されるインタレース動画像を入力して所定の画像フォーマットの動画像を出力する入力部と、
インタレース動画像を構成するトップ・フィールドとボトム・フィールドのそれぞれと、プログレッシブ動画像の1フレームとを、いずれも1ピクチャと換算した場合に、前記第1の動画像受信装置において単位時間あたりに表示されるピクチャの数であるピクチャ周波数を示す周波数情報を、前記第1の動画像受信装置から受信する受信部と、
前記動画像送受信装置自身に入力される動画像のピクチャ周波数と、前記第1の動画像受信装置から受信した前記周波数情報で示されるピクチャ周波数とが一致するか否かを判断する調停部と、
前記入力部から出力される動画像を符号化してストリームを生成する符号化部と、
生成された前記ストリームを前記第1の動画像受信装置に送信する送信部と、
前記復号化により得られた前記動画像を表示する表示部と、
前記表示部において単位時間あたりに表示されるピクチャの数であるピクチャ周波数が、テレビ方式の50Hzであるかテレビ方式の60Hzであるかを取得し、取得した前記ピクチャ周波数を示す周波数情報を生成する周波数取得部と、
生成された前記周波数情報を前記第1の動画像送信装置に送信する送信部と、
送信した前記周波数情報で示されるピクチャ周波数に基づいて前記第1の動画像送信装置で符号化された動画像のストリームを、前記第1の動画像送信装置から受信して復号化する復号化部と
を備え、
前記入力部は、前記調停部によって、前記動画像送受信装置自身に入力される動画像のピクチャ周波数と、前記第1の動画像受信装置から受信した前記周波数情報で示されるピクチャ周波数とが一致しないと判断された場合は、前記インタレース動画像をプログレッシブ動画像に変換して出力し、一致すると判断された場合は、前記インタレース動画像を前記インタレース動画像のまま出力し、
前記表示部は、前記復号化部での復号化によって得られた動画像を出力する
動画像送受信装置。 - 所定の撮像装置で撮像されるインタレース動画像を入力して所定の画像フォーマットの動画像を出力し、
前記入力されたインタレース動画像の送信先である動画像受信装置から、前記インタレース動画像を構成するトップ・フィールドとボトム・フィールドのそれぞれと、プログレッシブ動画像の1フレームとを、いずれも1ピクチャと換算した場合における、前記動画像受信装置において単位時間あたりに表示されるピクチャの数であるピクチャ周波数を示す周波数情報を受信し、
前記動画像送信装置自身に入力される動画像のピクチャ周波数と、前記動画像受信装置から受信した前記周波数情報で示されるピクチャ周波数とが一致するか否かを判断し、
前記動画像送信装置自身に入力される動画像のピクチャ周波数と、前記動画像受信装置から受信した前記周波数情報で示されるピクチャ周波数とが一致しないと判断された場合は、前記インタレース動画像をプログレッシブ動画像に変換して出力し、一致すると判断された場合は、前記インタレース動画像を前記インタレース動画像のまま出力し、
前記入力部から出力される前記プログレッシブ動画像または前記インタレース動画像を符号化してストリームを生成し、
生成された前記ストリームを前記動画像受信装置に送信する
動画像送信方法。 - 動画像送信装置から動画像のストリームを受信し、受信したストリームを復号化して得られる動画像を出力する動画像受信方法であって、
インタレース動画像を構成するトップ・フィールドとボトム・フィールドのそれぞれと、プログレッシブ動画像の1フレームとを、いずれも1ピクチャと換算した場合における、表示部において単位時間あたりに表示されるピクチャの数であるピクチャ周波数が、テレビ方式の50Hzであるかテレビ方式の60Hzであるかを取得し、取得した前記ピクチャ周波数を示す周波数情報を生成し、生成された前記周波数情報を前記動画像送信装置に送信し、
送信した前記周波数情報で示されるピクチャ周波数に基づいて前記動画像送信装置で符号化された動画像のストリームを、前記動画像送信装置から受信し、
受信した前記ストリームを復号化し、
前記表示部で、前記復号化によって得られた動画像を表示する
動画像受信方法。 - コンピュータに、請求項1〜7のいずれか1項に記載の動画像送信装置が備える各機能を実現させる、コンピュータ読み取り可能な非一時的記録媒体に記録されたプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010185604 | 2010-08-20 | ||
JP2010185604 | 2010-08-20 | ||
PCT/JP2011/004599 WO2012023282A1 (ja) | 2010-08-20 | 2011-08-16 | 動画像送信装置とその方法、動画像受信装置とその方法、及び動画像送受信装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2012023282A1 true JPWO2012023282A1 (ja) | 2013-10-28 |
Family
ID=45604951
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012529493A Withdrawn JPWO2012023282A1 (ja) | 2010-08-20 | 2011-08-16 | 動画像送信装置とその方法、動画像受信装置とその方法、及び動画像送受信装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20130076979A1 (ja) |
JP (1) | JPWO2012023282A1 (ja) |
WO (1) | WO2012023282A1 (ja) |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09224222A (ja) * | 1996-02-19 | 1997-08-26 | Canon Inc | Tv信号伝達方式、tv信号伝達装置及びtv信号伝達システム |
US6839094B2 (en) * | 2000-12-14 | 2005-01-04 | Rgb Systems, Inc. | Method and apparatus for eliminating motion artifacts from video |
US7012648B2 (en) * | 2001-04-02 | 2006-03-14 | Matsushita Electric Industrial Co., Ltd. | Image conversion method and image conversion apparatus |
JP2002369155A (ja) * | 2001-04-02 | 2002-12-20 | Matsushita Electric Ind Co Ltd | 画像変換方法および画像変換装置 |
JP2004064300A (ja) * | 2002-07-26 | 2004-02-26 | Sony Corp | 画像送信システム、画像送信装置、および画像受信装置 |
JP4543926B2 (ja) * | 2002-10-01 | 2010-09-15 | ソニー株式会社 | 情報処理装置および方法 |
US20040257434A1 (en) * | 2003-06-23 | 2004-12-23 | Robert Davis | Personal multimedia device video format conversion across multiple video formats |
JP4674637B2 (ja) * | 2006-03-03 | 2011-04-20 | パナソニック株式会社 | 送信装置、受信装置および送受信装置 |
-
2011
- 2011-08-16 US US13/700,551 patent/US20130076979A1/en not_active Abandoned
- 2011-08-16 WO PCT/JP2011/004599 patent/WO2012023282A1/ja active Application Filing
- 2011-08-16 JP JP2012529493A patent/JPWO2012023282A1/ja not_active Withdrawn
Also Published As
Publication number | Publication date |
---|---|
US20130076979A1 (en) | 2013-03-28 |
WO2012023282A1 (ja) | 2012-02-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4575357B2 (ja) | ロバスト・モードでのスタガキャストの高速チャンネル変更 | |
EP2129105A1 (en) | Image reproducing apparatus, image reproducing method, imaging apparatus and method for controlling the imaging apparatus | |
US20090322858A1 (en) | Picture signal processing device, television receiving apparatus and method of controlling apparatus | |
US7864251B2 (en) | System and method for decreasing end-to-end delay during video conferencing session | |
US8836758B2 (en) | Three-dimensional image processing apparatus and method of controlling the same | |
US6992692B2 (en) | System and method for providing video quality improvement | |
JP2007288462A (ja) | 映像表示装置 | |
JP2007282280A (ja) | 信号処理装置 | |
JP4208098B2 (ja) | プログレッシブ画像信号送出装置、及びプログレッシブ画像信号受信装置 | |
US20220060691A1 (en) | Video encoding method, video decoding method, and related apparatuses | |
JP2013187769A (ja) | 符号化装置 | |
US11979577B2 (en) | Video encoding method, video decoding method, and related apparatuses | |
JP4948358B2 (ja) | 映像伝送システム及び方法 | |
JP2009044538A (ja) | 監視システムおよびこれに用いる撮像装置 | |
JP2016005043A (ja) | 情報処理装置およびプログラム | |
JP2008244820A (ja) | 映像表示システム及び映像出力装置 | |
US11849127B2 (en) | Video encoding method, video decoding method, and related apparatuses | |
US10298651B2 (en) | Encoding device, decoding device, computer program product, and streaming system | |
US20220078454A1 (en) | Video encoding method, video decoding method, and related apparatuses | |
Misu et al. | Real-time video coding system for up to 4K 120P videos with spatio-temporal format conversion | |
WO2012023282A1 (ja) | 動画像送信装置とその方法、動画像受信装置とその方法、及び動画像送受信装置 | |
US9743034B2 (en) | Video transmitting/receiving device and video display device | |
US7391469B2 (en) | Method and apparatus for video decoding and de-interlacing | |
JP5686316B2 (ja) | カラー動画像動き推定方法及びカラー動画像動き推定装置 | |
JP2007300568A (ja) | 映像信号処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20141104 |