JP2008271378A - 映像監視装置 - Google Patents
映像監視装置 Download PDFInfo
- Publication number
- JP2008271378A JP2008271378A JP2007114075A JP2007114075A JP2008271378A JP 2008271378 A JP2008271378 A JP 2008271378A JP 2007114075 A JP2007114075 A JP 2007114075A JP 2007114075 A JP2007114075 A JP 2007114075A JP 2008271378 A JP2008271378 A JP 2008271378A
- Authority
- JP
- Japan
- Prior art keywords
- video
- data
- retransmission
- transmission
- transmission condition
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
Abstract
【課題】再送処理における最大再送許容時間を適切に設定することができ、受信側で映像データを有効に利用することができる映像監視装置を提供する。
【解決手段】映像監視装置1は、監視対象を撮影した映像データをネットワークを介して映像受信装置に送信する。映像監視装置1は、映像データの送信条件を設定する送信条件設定部23と、送信条件に従って映像データを送信するデータ送信部19とを備える。送信条件設定部23により設定される送信条件は、映像データの受領応答を受信しない場合の再送までの時間を規定するタイムアウト時間、および、タイムアウト時間に応じた再送処理を許容する最大経過時間を規定する最大再送許容時間を含み、送信条件設定部23は、映像データの映像利用目的に応じて最大再送許容時間を可変設定する。
【選択図】 図1
【解決手段】映像監視装置1は、監視対象を撮影した映像データをネットワークを介して映像受信装置に送信する。映像監視装置1は、映像データの送信条件を設定する送信条件設定部23と、送信条件に従って映像データを送信するデータ送信部19とを備える。送信条件設定部23により設定される送信条件は、映像データの受領応答を受信しない場合の再送までの時間を規定するタイムアウト時間、および、タイムアウト時間に応じた再送処理を許容する最大経過時間を規定する最大再送許容時間を含み、送信条件設定部23は、映像データの映像利用目的に応じて最大再送許容時間を可変設定する。
【選択図】 図1
Description
本発明は、監視対象を撮影した映像データをネットワークを介して映像受信装置に送信する映像監視装置に関する。
従来、監視カメラなどの映像監視装置が各種の施設に備えられている。最近では、ネットワーク技術の進展を背景として、ネットワークに対応した映像監視装置が開発されている。この種の映像監視装置は映像受信装置とネットワークを介して接続されて、映像監視システムを構成する。そして、監視映像が映像監視装置から映像受信装置へ送信されて、映像受信装置側でモニタに表示されたり、録画される。ネットワークを介した映像データの伝送には、TCP(Transmission Control Protocol)を適用できる(例えば特許文献1参照)。
TCPでは、データの伝送を確実に行うために再送処理が行われる。再送処理では、タイムアウト値(RTO)と再送回数が設定される。RTOは、受信側から受領応答(ACK)が得られない場合にデータを再送するまで時間である。RTOは、データ伝送のラウンドトリップタイム(RTT)の統計情報により求められる。データ送信側の装置は、データを送信して、データ受信側の装置からのACKを待ち、RTOが経過してもACKを受信しないときはデータを再送する(例えば、特許文献2参照)。
図14は、従来の映像監視装置における再送処理の例を示す図である。RTOは100msecに設定され、再送回数は3回に設定されている。第1回目の再送は、画像フレームを送信してからRTOが経過したときに行われる。第2回目の再送は、第1回目の再送からRTO×2(200msec)が経過したときに行われる。第3回目の再送は、第2回目の再送からRTO×4(400msec)が経過したときに行われる。
図示のように、従来の再送処理では、RTOと再送回数により、データを再送するか否かを判断する。図中の最大再送許容時間は、上記のようなRTOに応じた再送処理を許容する最大経過時間である。映像監視装置は、最大回数の再送を行ってもACKが受信されないときは、対象データの送信を断念する。
特開2006−222494号公報
特開2004−253934号公報
しかしながら、従来の映像監視装置においては、映像利用目的と無関係に一律に再送処理が行われ、それにより最大再送許容時間も一律に決定されるために、伝送する映像データによっては最大再送許容時間が適切ではなく、そのために受信側で映像データを有効に利用できないことがあるという問題があった。
例えば、映像利用目的が、現在の監視映像を利用するライブ利用であり、リアルタイム性(即時性)が要求されるとする。また、映像フレームは一定間隔で送られるとする。従来のように、最大再送許容時間が映像利用目的と関係なく一律に設定されたとすると、最大再送許容時間が長すぎる場合がある。最大再送許容時間が長すぎると、最大再送許容時間内に再送が成功したとしても、再送されたデータはリアルタイム性の要求を満たせず、既に有益でなくなっている可能性がある。
本発明は、従来の問題を解決するためになされたもので、その目的は、最大再送許容時間を適切に設定して、受信側で映像データを有効に利用することのできる映像監視装置を提供することにある。
本発明の映像監視装置は、監視対象を撮影した映像データをネットワークを介して映像受信装置に送信する装置であって、前記映像データの送信条件を設定する送信条件設定部と、前記送信条件に従って前記映像データを送信するデータ送信部とを備え、前記送信条件設定部により設定される前記送信条件は、映像データの受領応答を受信しない場合における再送処理を許容する最大経過時間を規定する最大再送許容時間を含み、前記送信条件設定部は、前記映像データの映像利用目的に応じて前記最大再送許容時間を可変設定するように構成されている。
この構成により、映像データの映像利用目的に応じて最大再送許容時間を可変設定するので、最大再送許容時間を適切に設定することができ、受信側で映像データを有効に利用することができる。
また、本発明の映像監視装置は、前記映像受信装置から前記映像利用目的の情報を含む映像要求メッセージを受信するデータ受信部と、前記映像要求メッセージを解析して前記映像利用目的を特定する要求解析部とを備え、前記送信条件設定部は、前記要求解析部により解析された前記映像利用目的に応じて前記最大再送許容時間を設定するように構成されている。
この構成により、映像受信装置からの映像要求メッセージを解析して映像利用目的を特定するので、映像受信装置間での映像利用目的の相違に容易に対処でき、また、一つの映像受信装置における映像利用目的の変化にも対処でき、したがって、最大再送許容時間を容易に適切に設定できる。
また、本発明の映像監視装置において、前記送信条件設定部は、前記映像利用目的が受信映像をリアルタイムで表示するライブ利用か受信映像を録画する録画利用であるかに応じて、前記録画利用の前記最大再送許容時間と比較して前記ライブ利用の前記最大再送許容時間を短く設定する。
この構成により、ライブ利用と録画利用といった映像利用目的の相違によって最大再送許容時間を適切に設定できる。そして、録画利用では伝送の確実性の観点で最大再送許容時間を適切に設定するとともに、ライブ利用では最大再送許容時間の短縮によってリアルタイム性の要求に応えることができる。
また、本発明の映像監視装置において、前記送信条件設定部は、前記映像利用目的が前記ライブ利用である場合に、前記最大再送許容時間を前記映像データのフレーム間隔に設定する。この構成により、ライブ利用でのリアルタイム性の要求に応えられるように最大再送許容時間を適切に設定できる。この構成では、映像データは例えばJPEGデータである。
また、本発明の映像監視装置において、前記映像データは、フレーム間予測を行わないIフレームとフレーム間予測を行うPフレームを含むデータであり、前記送信条件設定部は、前記映像利用目的が前記ライブ利用である場合に前記最大再送許容時間をIフレーム同士の間隔に設定し、前記データ送信部は、1つのIフレームの生成から前記最大再送許容時間が経過するまで、前記Iフレームおよびその後のPフレームの再送処理を行う。
この構成により、映像利用目的がライブ利用であるときの最大再送許容時間をIフレーム同士の間隔に設定することにより、ライブ利用でのリアルタイム性の要求に応えられるように最大再送許容時間を適切に設定できる。フレーム間予測により生成される映像データは、例えばH.264またはMPEGのデータである。
また、本発明の映像監視装置は、前記ネットワークに対するデータ伝送の実効レートを監視する伝送路監視部と、映像データの生成処理を制御する映像生成制御部とを備え、前記映像生成制御部は、前記実効レートが低下したときに、前記映像利用目的に応じて、映像生成におけるフレームレートおよび画質を制御する。
この構成により、映像利用目的の情報を映像生成処理の制御にも利用して、データ伝送の実効レート(ビットレート)が低下したときに、映像利用目的に応じた適切なかたちで、映像監視装置での映像生成のビットレートを下げられる。例えば、映像利用目的が録画利用であればフレームレートを優先して下げて画質を確保し、映像利用目的がライブ利用であれば画質を優先して下げて動きのなめらかさを確保する、といった適切な制御が可能になる。
また、本発明の映像監視装置において、前記データ送信部は、映像データのヘッダを生成するヘッダ生成部と、前記ヘッダを有する前記映像データを送信する送信処理部とを備え、前記ヘッダ生成部は、Iフレームを識別するデータを含むTOSフィールドを生成し、前記送信処理部は、前記TOSフィールドからIフレームの前記映像データを特定するように構成されている。
この構成により、データ送信部は、ヘッダのTOSフィールドを参照することにより、連続する映像フレームのうちのIフレームを容易に特定でき、送信条件に従って次のIフレームを送信する送信処理を容易に行える。
また、本発明の映像監視システムは、映像監視装置と映像受信装置がネットワークを介して接続され、前記映像監視装置から前記映像受信装置へ、監視対象を撮影した映像データを前記ネットワークを介して送信するシステムであって、前記映像受信装置は、前記映像データの映像利用目的を含む映像要求メッセージを前記映像監視装置へ送信し、前記映像監視装置は、前記映像データの送信条件を設定する送信条件設定部と、前記送信条件に従って前記映像データを送信するデータ送信部とを備え、前記送信条件設定部により設定される前記送信条件は、映像データの受領応答を受信しない場合における再送処理を許容する最大経過時間を規定する最大再送許容時間を含み、前記送信条件設定部は、前記映像要求メッセージから解析される前記映像利用目的に応じて前記最大再送許容時間を可変設定する。この構成によっても上述した本発明の利点が得られる。
また、本発明の映像監視方法は、監視対象を撮影した映像データをネットワークを介して映像受信装置に送信する方法であって、前記映像データの送信条件を設定する送信条件設定ステップと、前記送信条件に従って前記映像データを送信するデータ送信ステップとを有し、前記送信条件設定ステップにより設定される前記送信条件は、映像データの受領応答を受信しない場合における再送処理を許容する最大経過時間を規定する最大再送許容時間を含み、前記送信条件設定ステップは、前記映像データの映像利用目的に応じて前記最大再送許容時間を可変設定する。この方法によっても上述した本発明の利点が得られる。
本発明は、映像データの映像利用目的に応じて最大再送許容時間を可変設定する構成を設けることにより、最大再送許容時間を適切に設定することができ、受信側で映像データを有効に利用できるという効果を有する映像監視装置を提供することができる。
以下、本発明の実施の形態に係る映像監視装置について、図面を用いて説明する。
本発明の第1の実施の形態に係る映像監視装置を図1に示す。また、映像監視装置が設けられる映像監視システムを図2に示す。まず、図2を参照すると、映像監視システム100においては、映像監視装置1と映像受信装置3とがネットワーク5を介して接続されている。映像データはTCPのデータ伝送により映像監視装置1からネットワーク5を介して映像受信装置3へと送信される。
本実施の形態の例では、映像監視装置1はネットワーク送受信機能を備えた監視カメラである。ただし、映像監視装置1は監視カメラに限定されず、例えば、ネットワーク送受信機能を備えたエンコーダでもよい。この場合はエンコーダがカメラに接続され、カメラからの入力映像がエンコーダで符号化されて、ネットワーク5に送出される。
一方、映像受信装置3は、例えば、監視室などに備えられる監視制御装置である。映像受信装置3は、映像要求メッセージを映像監視装置1に送信して、映像監視装置1から映像データを受信する。映像受信装置3では、受信映像がモニタに表示されたり、録画される。
図2では、1つの映像監視装置1と1つの映像受信装置3が示されている。しかし、複数の映像監視装置1が設けられてよく、また、複数の映像受信装置3が設けられてよい。そして、任意の映像監視装置1から任意の映像受信装置3へと映像データが送信されてよい。
次に、図1を参照し、映像監視装置1の構成について説明する。図示のように、映像監視装置1は、撮像部11、映像生成部13および送受信部15を備え、送受信部15はデータ受信部17とデータ送信部19で構成されている。また、映像監視装置1は、本実施の形態における送信条件の制御に関連して、要求解析部21、送信条件設定部23および送信条件記憶部25を備えている。
撮像部11は、レンズ、撮像素子、信号処理回路等で構成され、被写体の映像を生成する。映像生成部13は、撮像部11からの入力映像信号を処理して送信用の映像データを生成する。本実施の形態では、JPEGの映像データが想定されており、映像生成部13は、JPEG形式の画像フレームデータを一定の時間間隔で次々と生成する。
なお、前述のように、本実施の形態では、映像監視装置1が監視カメラに限定されず、例えばエンコーダでよい。映像監視装置1がエンコーダの場合、監視カメラから映像が入力され、入力映像から映像データが生成される。
送受信部15はネットワーク5との通信を行う構成であり、データ受信部17がネットワーク5からデータを受信し、データ送信部19がネットワーク5へデータを送信する。映像受信装置3との通信においては、データ受信部17が映像受信装置3から映像要求メッセージを受信し、データ送信部19が映像データを映像受信装置3へ送信する。
要求解析部21は、データ受信部17により受信された映像要求メッセージを解析する処理を行う。送信条件設定部23は、映像データの送信条件を設定する構成であり、送信条件は、要求解析部21による解析結果に応じて設定される。また、送信条件の設定処理では、送信条件記憶部25に記憶された条件テーブルが参照される。
図3は映像要求メッセージの例を示している。映像要求メッセージは、映像利用目的と要求フレームレートの情報を含んでいる。上側の例では、映像利用目的が録画利用(record)であり、要求フレームレートが、1秒当たり5フレーム(FPS=5)である。下側の例では、映像利用目的がライブ利用(live)であり、要求フレームレートが、1秒当たり5フレーム(FPS=5)である。録画利用の目的は、受信側で映像を録画することであり、リアルタイム性よりも確実性が要求される。ライブ利用の目的は、受信側で現在の映像をリアルタイムにモニタに表示することであり、確実性よりもリアルタイム性(即時性)が要求される。
図4は、送信条件記憶部25に記憶される条件テーブルの例を示している。条件テーブルは、映像データ伝送における要求条件と送信条件を対応付けるテーブルである。要求条件は、ここでは映像利用目的であり、具体的には録画利用およびライブ利用である。送信条件は、再送タイムアウト時間(RTO)、再送回数および最大再送許容時間である。RTOは、映像データの受領応答を受信しない場合の再送までの時間を規定する。再送回数は、再送を行う回数の上限値である。最大再送許容時間は、タイムアウト時間に応じた再送処理を許容する最大経過時間(より詳細には最初のデータ送信からの最大経過時間)を規定する。
図示のように、要求条件すなわち映像利用目的が「録画」の場合、RTOが100msecであり、再送回数が3であり、最大再送許容時間が1100msecである。一方、映像利用目的が「ライブ」の場合、RTOが100msecであり、再送回数が1であり、最大再送許容時間が1つのフレーム間隔である。図3の要求メッセージの例では、要求フレームレートが1秒当たり5フレームなので、フレーム間隔が200msecになる。
送信条件設定部23は、送信条件記憶部25を参照して、要求解析部21により解析された映像利用目的に対応する送信条件を読み出す。送信条件設定部23は、読み出した送信条件を、送信時に使用すべき送信条件として設定する。映像利用目的がライブの場合、最大再送許容時間は要求フレームレートから算出されてよい。データ送信部19は、設定された送信条件に従って映像データを送信する。
図5は、図4の送信条件を図で表している。図5において、映像利用目的が録画である場合、送信条件は、RTO=100msec、再送回数=3、最大再送許容時間=1100msecである。最初の送信後の応答待ち時間(ACK待ち時間)は、RTO(=100msec)に等しい。第1回の再送後の応答待ち時間は、RTO×2(=200msec)である。この応答待ち時間は、第1回と第2回の再送間隔に相当しており、第1回の再送後にRTO×2の時間はACKを待ち、それから第2回の再送が行われる。さらに、第2回の再送後の応答待ち時間は、RTO×4(=400msec)であり、第3回の再送後の応答待ち時間も、RTO×4(=400msec)である。第3回の再送後に応答待ち時間が経過したとき、最初の送信からの経過時間が1100msecになり、最大再送許容時間が経過し、それ以上の再送は行われない。上記のように応答待ち時間はRTOの倍数であって、段階的に長くなるが、このような応答待ち時間の規則(倍数の規定)も送信条件として設定される。
一方、映像利用目的が「ライブ」である場合、送信条件は、RTO=100msec、再送回数=1、最大再送許容時間=フレーム間隔(=200msec)である。最初の送信後の応答待ち時間(ACK待ち時間)は、RTO(=100msec)に等しい。再送後の応答待ち時間は、RTO×2(=200msec)である。また、最大再送許容時間はフレーム間隔に等しい200msecであり、1回の再送後の応答待ち時間中に終了する。このように録画利用と比べてライブ利用の最大再送許容時間は大幅に短く設定されている。
上述したように、本実施の形態では、送信条件が映像利用目的に応じて異なって設定される。特に、本実施の形態では、最大再送許容時間が映像利用目的に応じて異なって設定されて、これにより以下に説明するように適切なデータ伝送が行われる。
以上に本発明の実施の形態に係る映像監視装置1の構成について説明した。次に、映像監視装置1の動作について説明する。
図6および図7は、映像監視装置1の動作を示すフロー図である。図6は、映像要求の受信から映像データの生成までの動作である。
図6に示すように、データ受信部17がネットワーク5を介して映像受信装置3から映像要求メッセージを受信すると(S1)、要求解析部21が映像要求メッセージを解析してデータ要求内容を求める(S3)。ここでは、映像利用目的と要求フレームレートが求められる。送信条件設定部23は、ステップS3で求められたデータ要求内容に応じて送信条件を設定する(S5)。この設定処理では、映像利用目的に対応する送信条件が送信条件記憶部25から読み出され、送信時に使用すべき条件として設定される。
次に、映像生成部13が、撮像部11から入力される映像から、送信用の映像データを生成する(S7)、生成した映像データの送信をデータ送信部19に対して要求する(S9)。そして、映像生成部13は、映像送信の中止の要求の有無を判定する(S11)。中止要求がデータ受信部17により受信されていれば、ステップS11がYesになり、処理が終了する。中止要求が受信されていなければ、ステップS7に戻り、映像データ生成と送信要求が繰り返される。
図7は、図6の処理で生成された映像データを送信する動作を示しており、具体的にはパケット送信が行われる。図6のステップS7でデータ送信要求が発生したとする。図7に示すように、データ送信要求が有ると(S21)、データ送信部19は、映像データを送信し(S23)、そして、送受信部15が、映像受信装置3からの応答の有無を判定する(S25)。ここでは、送信条件のRTOが参照される。RTOに応じた応答待ち時間が経過する前にデータ受信部17が映像受信装置3からACKを受信すると、応答が有りになり(S25、No)、処理が終了し、次のパケットデータが送信される。
一方、RTOに応じた応答待ち時間が経過してもデータ受信部17が映像受信装置3からACKを受信しない場合、応答が無しになり(S25、Yes)、データ送信部19は、再送が必要か否かを判断する再送判定を行う(S27)。ここでは、データ送信部19が、図6のステップS5で設定された再送条件を参照して、再送が必要か否かを判定する。再送が必要であれば(S27、Yes)、データが再送され(S29)、ステップS25に戻る。
再送が不要で有れば(S27、No)、処理が終了する。本実施の形態では、送信条件として、最大再送許容時間が設定されており、最大再送許容時間が経過していれば、ステップS27の判定がNoになり、処理が終了する。
次に、図8を参照し、具体例を用いて本実施の形態に係る映像監視装置1の動作を説明する。図8は、図5の送信条件に従った送信動作のタイムチャートを示している。図8の上段に示すように、本実施の形態では映像データは、JPEGの画像フレームであり、等時間間隔(200msec)で生成される。
図8の中段は、映像利用目的が「録画」である場合の送信条件に従った送信動作である。図の例では、最初のフレーム1のデータ送信が行われて、RTO(=100msec)が経過してもACKが受信されない。そこで、第1回の再送が行われる。第1回の再送後にRTO×2が経過してもACKが受信されない。このとき、最初の送信から300msecが経過しており、フレーム2が既に生成されている。しかし、最大再送許容時間はまだ経過していない。そこで、第2回の再送が行われる。第2回の再送にてACKが受信され、フレーム2が送信される。さらに、フレーム2のACKが受信され、フレーム3が送信される。
図8の下段は、映像利用目的が「ライブ」である場合の送信条件に従った送信動作である。図の例では、最初のフレーム1のデータ送信が行われて、RTO(=100msec)が経過してもACKが受信されない。そこで、第1回の再送が行われる。第1回の再送後にRTO×2が経過してもACKが受信されない。このとき、最初の送信から300msecが経過しており、フレーム2が既に生成されている。しかも、最大再送許容時間(フレーム期間=200msec)が既に経過している。最大再送許容時間が経過しているので、フレーム1の送信は中止される。そして、フレーム2が送信される。
このように映像利用目的が「ライブ」のときは、次のフレーム2の送信準備ができると、送信に失敗した前のフレーム1の再送をせずにフレーム2が送信される。そして、フレーム2のACKが受信されると、続いてフレーム3が送信される。
上記の例に示したように、映像利用目的が「録画」である場合、データ伝送の確実性の観点から最大再送許容時間が長く設定されており、フレーム1が遅くなっても映像受信装置3に届けられる。一方、映像利用目的が「ライブ」である場合、リアルタイム性の観点から最大再送許容時間が短く設定されており、フレーム1は映像受信装置3に届かないとしても、次のフレーム2、3を早期に映像受信装置3に送ることができる。
以上に、本発明の第1の実施の形態に係る映像監視装置1について説明した。本実施の形態によれば、映像データの映像利用目的に応じて最大再送許容時間が可変設定されるので、最大再送許容時間を適切に設定することができ、受信側で映像データを有効に利用することができる。
また、本実施の形態によれば、映像受信装置からの映像要求メッセージが解析されて映像利用目的が特定される。これにより、映像受信装置間での映像利用目的の相違に容易に対処でき、また、一つの映像受信装置における映像利用目的の変化にも対処でき、したがって、最大再送許容時間を容易に適切に設定できる。
また、本実施の形態によれば、映像利用目的が受信映像をリアルタイムで表示するライブ利用か受信映像を録画する録画利用であるかに応じて、録画利用の最大再送許容時間と比較してライブ利用の最大再送許容時間が短く設定される。これにより、ライブ利用と録画利用といった映像利用目的の相違によって最大再送許容時間を適切に設定できる。そして、録画利用では伝送の確実性の観点で最大再送許容時間を適切に設定するとともに、ライブ利用では最大再送許容時間の短縮によってリアルタイム性の要求に応えることができる。
また、本実施の形態によれば、映像利用目的がライブ利用である場合に、最大再送許容時間が映像データのフレーム間隔に設定される。これにより、ライブ利用でのリアルタイム性の要求に応えられるように最大再送許容時間を適切に設定できる。
次に、本発明の第2の実施の形態に係る映像監視装置について説明する。上述の第1の実施の形態では映像データが、フレーム間予測を伴わないJPEGデータであった。これに対して、第2の実施の形態では、映像データが、フレーム間予測により生成されるデータであり、より詳細には、H.264、MPEG−4などの動画像圧縮データである。ここでは、例として、映像データがH.264データであるとする。また、以下では、上述の第1の実施の形態と共通する事項の説明は省略する。
図9は、本実施の形態の映像監視装置を示している。図9において、概略的には、映像監視装置31は、第1の実施の形態と同様の構成に加えて、伝送路監視部61と映像生成制御部63とを有している。
図9において、映像生成部43は、撮像部41からの入力映像信号を処理して、H.264の映像データを生成する。この映像データは、フレーム間予測を行うことにより生成される。より詳細には、IフレームとPフレームが生成され、Pフレームの作成にフレーム間予測が用いられる(Iフレームの生成ではフレーム間予測は行われない)。また、本実施の形態の例では、Pフレームの枚数が2枚である。すなわち、1枚のIフレームに続いて2枚のPフレームが生成される。
送受信部45のデータ受信部47は、図10に示されるように、H.264の映像データを要求する映像要求メッセージを受信する。この映像要求メッセージが要求解析部51により解析されて、映像利用目的が特定される。図10において、上側の例では、映像利用目的が録画(record)であり、下側の例では、映像利用目的がライブ(live)である。また、両者においては、ビットレートの要求値が5Mbpsである。この要求ビットレートは後述する映像生成制御に利用される。
送信条件記憶部55は、第1の実施の形態と同様に、送信条件を規定する条件テーブルを記憶している。ただし、本実施の形態では、映像利用目的がライブ利用の場合の送信条件が第1の実施の形態と異なっている。具体的には、送信条件のうちの最大再送許容時間が、Iフレーム間隔に設定されている。Iフレーム間隔は、1つのIフレーム生成から次のIフレーム生成までの時間である。本実施の形態の例では、上述のようにIフレームの後に2枚のPフレームが生成される(I、P、P、I・・・)。したがって、Iフレーム間隔は、具体的には3フレーム分の時間である。
また、第1の実施の形態の例では、映像利用目的がライブの場合、再送回数が1回であった。これに対して、本実施の形態では、再送回数が2回に設定される。第2回の再送後の応答待ち時間は、映像利用目的が録画の場合と同じく、RTO×4に設定される。
送信条件設定部53は、送信条件記憶部55を参照して、映像要求メッセージから特定された映像利用目的に対応する送信条件を設定する。そして、データ送信部49は、設定された送信条件に従って映像データを送信する。
伝送路監視部61は、ネットワーク5に対するデータ伝送の実効レート(ビットレート)を監視する。映像要求メッセージ中の要求レート(図10の例では5Mbps)と比べて実効レートが低下すると、映像生成制御部63が、映像生成でのビットレート(映像監視装置1で生成される映像のビットレート)を下げるように映像生成処理のフレームレートおよび画質を制御する。このとき、映像利用目的に応じて異なる制御が行われる。具体的には、映像利用目的が録画である場合はフレームレートを優先的に下げる制御が行われ、映像利用目的がライブである場合は画質を優先的に下げる制御が行われる。
以上に、本実施の形態における映像監視装置31の構成について説明した。次に、映像監視装置31の動作を説明する。概略的には、本実施の形態の映像監視装置31は、第1の実施の形態と同様、図6および図7のフロー図に従って動作する。
図11は、本実施の形態におけるデータ送信動作の例を示すタイムチャートである。図11の上段に示されるように、I、P、P、Iの順でフレームが生成され、Iフレームの間隔は、3フレーム分である。
図11の中段は、映像利用目的が「録画」である場合の送信条件に従った送信動作である。図の例では、フレーム1(1つ目のIフレーム)のデータ送信が行われて、RTO(=100msec)が経過してもACKが受信されない。そこで、第1回の再送が行われる。第1回の再送後にRTO×2が経過してもACKが受信されない。そこで、第2回の再送が行われる。第2回の再送にてACKが受信され、次に、フレーム2(Pフレーム)が送信される。
フレーム2についても、最初のデータ送信が行われて、RTO(=100msec)が経過してもACKが受信されない。そこで、第1回の再送が行われる。第1回の再送後にRTO×2が経過してもACKが受信されない。このとき、フレーム4(2つ目のIフレーム)が既に生成されているが、最大再送許容時間はまだ経過していない。そこで、第2回の再送が行われる。第2回の再送にてACKが受信され、次に、フレーム3(Pフレーム)が送信される。さらに、フレーム3のACKが受信され、フレーム4(次のIフレーム)が送信される。
図11の下段は、映像利用目的がライブである場合の送信条件に従った送信動作である。図の例では、最初のフレーム1のデータ送信が行われて、RTO(=100msec)が経過してもACKが受信されない。そこで、第1回の再送が行われる。第1回の再送後にRTO×2が経過してもACKが受信されない。そこで、第2回の再送が行われる。第2回の再送にてACKが受信され、次に、フレーム2(Pフレーム)が送信される。
フレーム2についても、最初のデータ送信が行われて、RTO(=100msec)が経過してもACKが受信されない。そこで、第1回の再送が行われる。第1回の再送後に、フレーム4(次のIフレーム)が生成され、最大再送許容時間が経過する。そこで、フレーム2の送信は中止される。フレーム3(Pフレーム)も送信されずに終わる。そして、フレーム4が送信される。
このように、本実施の形態では、第1の実施の形態におけるJPEG送信とはライブ時の処理が異なり、次のIフレームまでは再送が行われる。そして、次のIフレームの再送準備ができたら、それまでに送信されていない未送信のフレームは、Iフレームであっても、Pフレームであっても、送信されずに終わる。
図12は、伝送路監視部61および映像生成制御部63による送信レート調整動作を示している。図示のように、伝送路監視部61は、ネットワーク5に対するデータ伝送の実効レートを監視する(S31)。実効レートは要求レートと比較される。要求レートは要求解析部51により映像要求メッセージから求められ、図10の例では要求レートが5Mbpsである。実効レートが要求レートに満たないと、映像生成制御部63が映像生成のフレームレートおよび画質を制御して、映像生成側のビットレートを低下させる。このとき、映像生成制御部63は、要求解析部51により解析された映像利用目的が録画利用か否かを判定する(S33)。映像利用目的は、送信条件設定部53により設定された送信条件から求められてもよい。映像利用目的が録画利用で有れば(S33、Yes)、映像生成制御部63は、フレームレートを優先して下げるように映像生成部43を制御する(S35)。これにより、画質は良好に維持される。また、映像利用目的がライブ利用であれば(S33、No)、映像生成制御部63は、画質を優先して下げるように映像生成部43を制御する(S37)。この処理では圧縮率が上げられる。これにより、フレームレートを優先して維持することにより動きのなめらかさが維持される。このようにして、映像利用目的に応じた制御を行うことにより、録画利用の場合の画質やライブ利用におけるリアルタイム性といった目的毎の要求を満たすことができる。
以上に、第2の実施の形態に係る映像監視装置31の動作を説明した。次に、第2の実施の形態の応用例について説明する。この応用例では、Iフレームを識別可能なヘッダ情報が生成される。そして、ヘッダ情報を利用して再送制御が行われる。
図13は、この応用例におけるデータ伝送部49の構成を示している。データ送信部49はヘッダ生成部71と送信処理部73で構成されている。
ヘッダ生成部71は、映像のパケットデータに付加されるべきヘッダを生成する構成であり、特に、IPヘッダのTOS(type of service)フィールドにて、Iフレーム(Iピクチャ)とPフレーム(Pピクチャ)を区別する値を設定する。生成されるTOSフィールドデータは、例えば以下の通りである。
Iフレーム:100011(先頭パケット)
Iフレーム:100010(先頭以外のパケット)
Pフレーム:100101(先頭パケット)
Pフレーム:100100(先頭以外のパケット)
Iフレーム:100011(先頭パケット)
Iフレーム:100010(先頭以外のパケット)
Pフレーム:100101(先頭パケット)
Pフレーム:100100(先頭以外のパケット)
上記においては、前側の5ビットが、IフレームとPフレームで異なっている。また、各フレームの先頭パケットでは、最終ビットが1であり、先頭以外のパケットでは最終ビットが0である。したがって、TOSフィールドから、IフレームとPフレームを識別でき、各フレームの先頭パケットも識別できる。
送信処理部73は、前述したように送信条件に従って映像データを送信する構成である。このとき、送信処理部73は、各パケットのヘッダ中のTOSフィールドの値を参照し、各パケットがIフレームのパケットかPフレームのパケットかを識別し、各パケットを再送するか、それとも次のパケットを送信するかを判断する。送信処理部73は、Iフレームの先頭パケットを認識すると、未送信パケット(ACKを未受信のパケット)をもう再送しない。そして、送信処理部73は、認識されたIフレームのパケットの送信を開始する。
このようにして、本実施の形態では、TOSフィールドを使ってIフレームとPフレームの優先度が区別される。Iフレームの優先度がPフレームのよりも高い。そこで、次の優先データであるIフレームが認識されるまでは、再送処理が行われる。
上記の応用例において、Iフレームの先頭パケットの発生は、第2の実施の形態における最大再送許容時間が経過したことを意味する。したがって、上記の処理によっても、データ伝送部73は、送信条件の最大再送許容時間が経過したことを判別でき、最大再送許容時間が経過したときに次のIフレームの映像データの送信を開始する処理を好適に行える。
また、上記の応用例では、I/Pフレームを識別可能にTOSフィールドが構成されるので、送信処理部73はメディアヘッダまで見ないでもIフレームのパケットを特定でき、本実施の形態の送信条件に従ったデータ送信を容易にできる。
また、本実施の形態では、1つのフレームが複数のパケットに分割されることを考慮し、上述のように各フレームの先頭パケットを識別する識別情報が付加されている。これにより、送信処理部73は、フレームの区切りを認識することができ、次のIフレームの始まりも認識することができる。
また、本実施の形態では、中継機器を経由する場合、中継機器にてTOSフィールドを参照することにより、パケットを再送するか否かを判定することも可能になる。
以上に本発明の第2の実施の形態に係る映像監視装置31について説明した。本実施の形態においても、第1の実施の形態と同様に、映像データの映像利用目的に応じて最大再送許容時間を可変設定するので、最大再送許容時間を適切に設定することができ、受信側で映像データを有効に利用することができる。
また、本実施の形態では、映像データは、H.264/MPEG−4等のデータであり、フレーム間予測を行わないIフレームとフレーム間予測を行うPフレームを含むデータである。そして、映像利用目的がライブ利用である場合に最大再送許容時間がIフレーム同士の間隔に設定される。データ送信処理では、1つのIフレームの生成から最大再送許容時間が経過するまで、Iフレームおよびその後のPフレームの再送処理が行われる。これにより、ライブ利用でのリアルタイム性の要求に応えられるように最大再送許容時間を適切に設定できる。
また、本実施の形態では、ネットワークに対するデータ伝送の実効レートが監視される。そして、実効レートが低下したときに映像利用目的に応じて、映像生成におけるフレームレートおよび画質が制御される。これにより、映像利用目的の情報を映像生成処理の制御にも利用して、データ伝送の実効レートが低下したときに、映像利用目的に応じた適切なかたちで、映像生成側のビットレートを下げられる。上述の例のように、映像利用目的が録画利用であればフレームレートを優先して下げて画質を確保し、映像利用目的がライブ利用であれば画質を優先して下げて動きのなめらかさを確保する、といった適切な制御が可能になる。
また、本実施の形態では、ヘッダ生成処理において、Iフレームを識別するデータを含むTOSフィールドが生成される。そして、TOSフィールドからIフレームの映像データが特定される。この構成により、データ送信部は、ヘッダのTOSフィールドを参照することにより、連続する映像フレームのうちのIフレームを容易に特定でき、送信条件に従って次のIフレームを送信する送信処理を容易に行える。
以上に本発明の好適な実施の形態を説明した。しかし、本発明は上述の実施の形態に限定されず、当業者が本発明の範囲内で上述の実施の形態を変形可能なことはもちろんである。
以上のように、本発明にかかる映像監視装置は、最大再送許容時間を適切に設定することができ、受信側で映像データを有効に利用することができるという効果を有し、ネットワークに接続される監視カメラ等として有用である。
1 映像監視装置
3 映像受信装置
5 ネットワーク
11 撮像部
13 映像生成部
15 送受信部
17 データ受信部
19 データ送信部
21 要求解析部
23 送信条件設定部
25 送信条件記憶部
3 映像受信装置
5 ネットワーク
11 撮像部
13 映像生成部
15 送受信部
17 データ受信部
19 データ送信部
21 要求解析部
23 送信条件設定部
25 送信条件記憶部
Claims (9)
- 監視対象を撮影した映像データをネットワークを介して映像受信装置に送信する映像監視装置であって、
前記映像データの送信条件を設定する送信条件設定部と、前記送信条件に従って前記映像データを送信するデータ送信部とを備え、前記送信条件設定部により設定される前記送信条件は、映像データの受領応答を受信しない場合における再送処理を許容する最大経過時間を規定する最大再送許容時間を含み、前記送信条件設定部は、前記映像データの映像利用目的に応じて前記最大再送許容時間を可変設定することを特徴とする映像監視装置。 - 前記映像受信装置から前記映像利用目的の情報を含む映像要求メッセージを受信するデータ受信部と、前記映像要求メッセージを解析して前記映像利用目的を特定する要求解析部とを備え、前記送信条件設定部は、前記要求解析部により解析された前記映像利用目的に応じて前記最大再送許容時間を設定することを特徴とする請求項1に記載の映像監視装置。
- 前記送信条件設定部は、前記映像利用目的が受信映像をリアルタイムで表示するライブ利用か受信映像を録画する録画利用であるかに応じて、前記録画利用の前記最大再送許容時間と比較して前記ライブ利用の前記最大再送許容時間を短く設定することを特徴とする請求項1または2に記載の映像監視装置。
- 前記送信条件設定部は、前記映像利用目的が前記ライブ利用である場合に、前記最大再送許容時間を前記映像データのフレーム間隔に設定することを特徴とする請求項3に記載の映像監視装置。
- 前記映像データは、フレーム間予測を行わないIフレームとフレーム間予測を行うPフレームを含むデータであり、前記送信条件設定部は、前記映像利用目的が前記ライブ利用である場合に前記最大再送許容時間をIフレーム同士の間隔に設定し、前記データ送信部は、1つのIフレームの生成から前記最大再送許容時間が経過するまで、前記Iフレームおよびその後のPフレームの再送処理を行うことを特徴とする請求項3に記載の映像監視装置。
- 前記ネットワークに対するデータ伝送の実効レートを監視する伝送路監視部と、
映像データの生成処理を制御する映像生成制御部とを備え、
前記映像生成制御部は、前記実効レートが低下したときに、前記映像利用目的に応じて、映像生成におけるフレームレートおよび画質を制御することを特徴とする請求項5に記載の映像監視装置。 - 前記データ送信部は、映像データのヘッダを生成するヘッダ生成部と、前記ヘッダを有する前記映像データを送信する送信処理部とを備え、前記ヘッダ生成部は、Iフレームを識別するデータを含むTOSフィールドを生成し、前記送信処理部は、前記TOSフィールドからIフレームの前記映像データを特定することを特徴とする請求項5または6に記載の映像監視装置。
- 映像監視装置と映像受信装置がネットワークを介して接続され、前記映像監視装置から前記映像受信装置へ、監視対象を撮影した映像データを前記ネットワークを介して送信する映像監視システムであって、
前記映像受信装置は、前記映像データの映像利用目的を含む映像要求メッセージを前記映像監視装置へ送信し、
前記映像監視装置は、前記映像データの送信条件を設定する送信条件設定部と、前記送信条件に従って前記映像データを送信するデータ送信部とを備え、前記送信条件設定部により設定される前記送信条件は、映像データの受領応答を受信しない場合における再送処理を許容する最大経過時間を規定する最大再送許容時間を含み、前記送信条件設定部は、前記映像要求メッセージから解析される前記映像利用目的に応じて前記最大再送許容時間を可変設定することを特徴とする映像監視システム。 - 監視対象を撮影した映像データをネットワークを介して映像受信装置に送信する映像監視方法であって、
前記映像データの送信条件を設定する送信条件設定ステップと、前記送信条件に従って前記映像データを送信するデータ送信ステップとを有し、前記送信条件設定ステップにより設定される前記送信条件は、映像データの受領応答を受信しない場合における再送処理を許容する最大経過時間を規定する最大再送許容時間を含み、前記送信条件設定ステップは、前記映像データの映像利用目的に応じて前記最大再送許容時間を可変設定することを特徴とする映像監視方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007114075A JP2008271378A (ja) | 2007-04-24 | 2007-04-24 | 映像監視装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007114075A JP2008271378A (ja) | 2007-04-24 | 2007-04-24 | 映像監視装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008271378A true JP2008271378A (ja) | 2008-11-06 |
Family
ID=40050264
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007114075A Pending JP2008271378A (ja) | 2007-04-24 | 2007-04-24 | 映像監視装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2008271378A (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012504352A (ja) * | 2009-11-24 | 2012-02-16 | スキルアップジャパン株式会社 | 再送回数を動的に適合させる方法及び装置 |
CN103852068A (zh) * | 2012-12-03 | 2014-06-11 | 三星泰科威株式会社 | 获得摄像机与目标之间的水平距离的方法和摄像机 |
JP2014146087A (ja) * | 2013-01-28 | 2014-08-14 | Mitsubishi Electric Corp | 監視制御システム |
JP2015056788A (ja) * | 2013-09-12 | 2015-03-23 | 株式会社日立国際電気 | 画像監視システムおよび画像送信方法 |
JP2016054333A (ja) * | 2014-09-02 | 2016-04-14 | 日本電信電話株式会社 | データ転送制御装置、方法及びプログラム |
WO2017199860A1 (ja) * | 2016-05-18 | 2017-11-23 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置、情報処理システム、撮像装置、ヘッドマウントディスプレイ、および情報処理方法 |
-
2007
- 2007-04-24 JP JP2007114075A patent/JP2008271378A/ja active Pending
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012504352A (ja) * | 2009-11-24 | 2012-02-16 | スキルアップジャパン株式会社 | 再送回数を動的に適合させる方法及び装置 |
CN103852068A (zh) * | 2012-12-03 | 2014-06-11 | 三星泰科威株式会社 | 获得摄像机与目标之间的水平距离的方法和摄像机 |
US9766067B2 (en) | 2012-12-03 | 2017-09-19 | Hanwha Techwin Co., Ltd. | Method of acquiring horizontal distance between camera and target, and camera and surveillance system adopting the method |
JP2014146087A (ja) * | 2013-01-28 | 2014-08-14 | Mitsubishi Electric Corp | 監視制御システム |
JP2015056788A (ja) * | 2013-09-12 | 2015-03-23 | 株式会社日立国際電気 | 画像監視システムおよび画像送信方法 |
JP2016054333A (ja) * | 2014-09-02 | 2016-04-14 | 日本電信電話株式会社 | データ転送制御装置、方法及びプログラム |
WO2017199860A1 (ja) * | 2016-05-18 | 2017-11-23 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置、情報処理システム、撮像装置、ヘッドマウントディスプレイ、および情報処理方法 |
JP2017208707A (ja) * | 2016-05-18 | 2017-11-24 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置、情報処理システム、撮像装置、ヘッドマウントディスプレイ、および情報処理方法 |
US11281539B2 (en) | 2016-05-18 | 2022-03-22 | Sony Interactive Entertainment Inc. | Information processing apparatus, information processing system, image pickup device, head mounted display, and information processing method |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4688566B2 (ja) | 送信機及び受信機 | |
JP3598110B2 (ja) | データ伝送方法および装置 | |
CN107231328B (zh) | 实时视频传输方法、装置、设备及系统 | |
EP2529528B1 (en) | A method and apparatus for parsing a network abstraction-layer for reliable data communication | |
US9306708B2 (en) | Method and apparatus for retransmission decision making | |
US8089514B2 (en) | Moving image communication device, moving image communication system and semiconductor integrated circuit used for communication of moving image | |
US10602139B2 (en) | Embedded multimedia systems with adaptive rate control for power efficient video streaming | |
US8792520B2 (en) | Communication apparatus and method of transferring data | |
EP1301041A1 (en) | Video data transmission method and apparatus | |
US7663665B2 (en) | Communication device and method for transferring video-stream data to a display device and a storage device | |
JP2008271378A (ja) | 映像監視装置 | |
US20170279729A1 (en) | Effective intra-frame refresh in multimedia communications over packet networks | |
JP2008193510A (ja) | 映像送信装置、映像受信装置、及び映像伝送システム | |
CN109862400B (zh) | 一种流媒体传输方法、装置及其系统 | |
CN113068001A (zh) | 基于级联摄像机的数据处理方法、装置、设备和介质 | |
JP6669765B2 (ja) | ビデオエンコーダ | |
JPH10126772A (ja) | 動画像データ転送方法 | |
JP3846853B2 (ja) | 情報配信システム及び情報配信方法 | |
JP2001016276A (ja) | 通信装置、通信方法、記憶媒体及び通信システム | |
US20230034162A1 (en) | Transmission apparatus and transmission method | |
JP5522987B2 (ja) | 送信装置、送信方法、及びコンピュータプログラム | |
JP4059125B2 (ja) | パケット受信装置 | |
JP4888594B2 (ja) | 送信機及び受信機 | |
KR100401651B1 (ko) | 저장 기능 및 통신 기능을 최적화한 영상 감시 시스템 | |
JP2000224569A (ja) | 監視装置 |