JP2020080479A - 動画記録再生装置、動画伝送システムおよび方法 - Google Patents

動画記録再生装置、動画伝送システムおよび方法 Download PDF

Info

Publication number
JP2020080479A
JP2020080479A JP2018212978A JP2018212978A JP2020080479A JP 2020080479 A JP2020080479 A JP 2020080479A JP 2018212978 A JP2018212978 A JP 2018212978A JP 2018212978 A JP2018212978 A JP 2018212978A JP 2020080479 A JP2020080479 A JP 2020080479A
Authority
JP
Japan
Prior art keywords
subject
coding
frame
moving image
subject region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018212978A
Other languages
English (en)
Inventor
寧 李
Yasushi Ri
寧 李
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Platforms Ltd
Original Assignee
NEC Platforms Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Platforms Ltd filed Critical NEC Platforms Ltd
Priority to JP2018212978A priority Critical patent/JP2020080479A/ja
Publication of JP2020080479A publication Critical patent/JP2020080479A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】 ターゲットを含む領域の画質の維持と、符号化の処理負荷、及び、動画のデータ量の抑制とを両立する。【解決手段】 入力された動画のフレームの中から、予め定められたターゲット抽出アルゴリズムに基づく処理を実行してターゲットを抽出し、ターゲットを含む被写体領域を生成すると共に、フレーム内における被写体領域の位置を示す位置情報を取得する。被写体領域に対し、第1の符号化手順に基づく符号化処理を実行して、符号化被写体領域を生成する。符号化被写体領域に対し、第1の符号化手順に基づく復号化処理を実行して、復号化被写体領域を生成する。フレーム内の位置情報が示す位置に、復号化被写体領域を配置した動画を合成する。【選択図】 図2

Description

本発明は、動画の符号化及び復号化に関する。
デジタルカメラの普及や、撮像素子の画素数の増加に伴い、大量の動画データが日々生成されている。特に、監視カメラは長時間録画することが多く、生成するデータ量が膨大になりやすい。このため、監視カメラで撮影した動画を記録するためには、大容量のストレージが必要になる。
監視カメラ単体で動画を記録し、動画を再生出力する場合、監視カメラにストレージを設けることになる。この場合、装置の発熱、消費電力、スペースの観点からストレージの容量に制限があり、高品質の動画を長時間記録するのが難しい。
また、監視カメラの映像を、データ通信ネットワークを介して遠隔地にリアルタイムに伝送する場合、十分な伝送速度を確保する必要がある。
本発明に関連する文献に特許文献1がある。特許文献1では、ターゲットを含む領域の更新頻度を高くする一方、背景領域の更新頻度を低くすることにより、全体としてのデータ量の削減を図る。特許文献1によれば、画像を再生すると、ターゲットの動作はスムーズに表示される一方、背景の中で動く物(例えば風にそよぐ草木)の動きはぎこちないものとなる。
また、本発明に関連する他の文献に特許文献2がある。同文献にいう前景画像は、画像全体のうち、ターゲットの部分のみ画質を維持したまま、それ以外の背景を単色化した画像である。特許文献2では、例えば、フレーム画像の画素数が1920*1080の場合、前景画像の画素数も1920*1080である。従って、符号化処理の対象となるのも1920*1080の画像である。
特開2003−125369号公報 特開2010−268307号公報
特許文献1によれば、複数のフレームの間で、画面の更新頻度を画面の部分によって変えることによって、動画全体としてのデータ量の削減を図っている。
特許文献2によれば、背景を単色化するものの、フレーム全体を対象として符号化処理を行う。
本発明はこのような状況に鑑みてなされたものであり、本発明が解決しようとする課題は、ターゲットを含む領域の画質の維持と、符号化の処理負荷、及び、動画のデータ量の抑制との両立が可能な動画記録再生装置、動画伝送システムを提供することである。
上述の課題を解決するため、本発明は、その一態様として、入力された動画のフレームの中から、予め定められたターゲット抽出アルゴリズムに基づく処理を実行してターゲットを抽出し、前記ターゲットを含む被写体領域を生成すると共に、前記フレーム内における前記被写体領域の位置を示す位置情報を取得する被写体領域生成手段と、前記被写体領域に対し、第1の符号化手順に基づく符号化処理を実行して、符号化被写体領域を生成する被写体符号化手段と、前記符号化被写体領域に対し、前記第1の符号化手順に基づく復号化処理を実行して、復号化被写体領域を生成する被写体復号化手段と、前記フレーム内の前記位置情報が示す位置に、前記復号化被写体領域を配置した動画を合成する合成手段とを備える動画符号化復号化システムを提供する。
また、本発明は、他の一態様として、入力された動画のフレームの中から、予め定められたターゲット抽出アルゴリズムに基づく処理を実行してターゲットを抽出し、前記ターゲットを含む被写体領域を生成すると共に、前記フレーム内における前記被写体領域の位置を示す位置情報を取得する被写体領域生成手段と、前記被写体領域に対し、第1の符号化手順に基づく符号化処理を実行して、符号化被写体領域を生成する被写体符号化手段とを備え、前記位置情報と前記符号化被写体領域とを出力する、動画符号化システムを提供する。
また、本発明は、他の一態様として、入力された動画のフレームの中から、予め定められたターゲット抽出アルゴリズムに基づく処理を実行してターゲットを抽出し、前記ターゲットを含む被写体領域を生成すると共に、前記フレーム内における前記被写体領域の位置を示す位置情報を取得する被写体領域生成段階と、前記被写体領域に対し、第1の符号化手順に基づく符号化処理を実行して、符号化被写体領域を生成する被写体符号化段階と、前記符号化被写体領域に対し、前記第1の符号化手順に基づく復号化処理を実行して、復号化被写体領域を生成する被写体復号化段階と、前記フレーム内の前記位置情報が示す位置に、前記復号化被写体領域を配置した動画を合成する合成段階とを含む動画符号化復号化方法を提供する。
本発明によれば、ターゲットを含む領域の画質の維持と、符号化の処理負荷、及び、動画のデータ量の抑制との両立が可能な動画記録再生装置、動画伝送システムを提供することができる。
本発明の第1の実施の形態である動画記録再生装置のブロック図である。 符号化部のブロック図である。 フレームの一例を説明するための図である。 フレームと、被写体領域と、位置情報との関係を説明するための図である。 ストレージが符号化被写体領域、符号化背景領域、位置情報を格納した状態を説明するための模式図である。 復号化部のブロック図である。 本発明の第2の実施の形態である動画伝送システムのブロック図である。
(第1の実施の形態)
図1を参照して、本発明の一実施の形態である動画記録再生装置1について説明する。動画記録再生装置1は、典型的には、監視カメラで撮影した動画を記録し、必要に応じて、記録した動画を画像表示装置に出力して表示するための装置である。
動画記録再生装置1は、符号化部2、ストレージ3、復号化部4を備える。動画記録再生装置1は、撮像素子が出力する画像データを、フレーム5として外部から受け取る。撮像素子は例えばCCD(Charge-Coupled Device)イメージセンサ、CMOS(Complementary MOS)イメージセンサである。フレーム5は動画であっても静止画であってもよい。
また、動画記録再生装置1は、動画データを、フレーム6として不図示の画像表示装置に出力する。画像表示装置は、例えば、CRT(Cathode Ray Tube)、液晶ディスプレイ装置、有機EL(electro-luminescence)ディスプレイ装置、プラズマディスプレイ、ビデオプロジェクタ等である。
図2に示すように、符号化部2は、被写体領域生成部21、背景領域生成部22、被写体符号化部23、背景符号化部24を備える。
被写体領域生成部21は、フレーム5からターゲットを含む被写体領域を抽出して、被写体符号化部23に出力する。言い換えると、被写体領域生成部21は、ターゲットを含む領域を、フレーム5から被写体領域として切り出す処理を行う。また、被写体領域生成部21は、切り出し元となったフレーム5における、被写体領域の位置を示す情報である位置情報Pを出力する。
被写体領域生成部21がフレーム5からターゲットを抽出する際には、所定のアルゴリズムに従った処理を実行する。以下、このアルゴリズムをターゲット抽出アルゴリズムと記す。ターゲット抽出アルゴリズムには、様々なものを用いることが可能である。ターゲット抽出アルゴリズムとして用いるアルゴリズムの種類と、そのアルゴリズムに適用する各種パラメータの値は、動画記録再生装置1の録画目的に応じて、予め適切に設定される。
ターゲット抽出アルゴリズムの一例としては、例えば、フレーム5に含まれる人、動物、植物、機械、各種の自然物等のイメージが、フレーム5の中で占める大きさを求めて、大きさに基づいてターゲットか否かを判定して、ターゲットと判定した像を含む領域を被写体領域として出力するものが考えられる。
また、他のターゲット抽出アルゴリズムとしては、所定の位置に設置されて、金庫を中心とした監視エリアの画像を、同じ方向、同じ範囲金庫を監視する監視カメラのように、固定物を監視するための動画像データのフレームをフレーム5として用いる場合に、フレーム5内において、金庫を含む所定の範囲に相当する領域を被写体領域として出力するものが考えられる。
また、他のターゲット抽出アルゴリズムとしては、着目しているフレーム5と、そのフレーム5と時間的に連続した他のフレーム5(例えば着目しているフレーム5の直前のフレーム5)とに基づいて、動体検知を行い、検知された動体をターゲットとして抽出するものが考えられる。動体検知アルゴリズムの例としては画素値差分検出、画像相関判定がある。画素値差分検出では、時間的に連続した2つの画像の間で、互いに対応する画素の画素値の差分を求める。この差分に基づいて動体を検知する。画像相関判定では、時間的に連続した2つの画像の間の相関係数に基づいて動体を検知する。
ここでは、ターゲット抽出アルゴリズムとして動体検知を用いるものして説明する。図3のようなフレーム5が被写体領域生成部21に入力されたものとする。このようなフレーム5に対し、被写体領域生成部21はターゲット抽出アルゴリズムとして動体検知を実行する。その結果、画面中央を移動する二人の人間を動体として検知したものとする。ここで検知した二人の人間をターゲット51と呼ぶものとする。そして、被写体領域生成部21は、ターゲット51を含むフレーム5の一部を、被写体領域52として被写体符号化部23に出力する。
図4を参照してターゲット51と被写体領域52の関係と位置情報Pについて説明する。被写体領域52は、ターゲット51のみ、即ち、二人の人間の姿のみに対応する画素からなる領域を被写体領域52として出力してもよい。或いは、被写体領域52は、ターゲット51を囲む矩形領域として被写体領域52を出力することとしてもよい。図4には矩形領域の被写体領域52を例示している。被写体領域52を伝送するために必要なビットレートや、記録するために必要な容量を抑えるため、矩形領域は、ターゲット51を含んだ上でできるだけ小さいことが好ましい。例えばターゲット51が内接する矩形領域が好ましい。
位置情報Pは、フレーム5の中における被写体領域52の位置を示す情報である。図4の例では、被写体領域52の左上隅の画素のX座標、Y座標からなる座標(X、Y)を位置情報Pとして用いている。被写体領域生成部21は、フレーム5のうち、ターゲット51を含む領域を被写体領域52として切り出すと共に、その被写体領域52の位置を示す位置情報Pを出力する。
背景領域生成部22は、フレーム5を低画質化したものを背景領域として出力する。ここでは、低画質化の一手法として解像度を下げる(ダウンコンバート)。例えば、横1920ドット、縦1080ドットの所謂フルHD(High Definition)のフレーム5を、横1366ドット、縦768ドットの所謂HDにダウンコンバートし、背景領域として背景符号化部24に出力する。低画質化の他の手法としては、例えばフレーム5に対して減色処理を実行したものを背景領域とすることが考えられる。
被写体符号化部23は、被写体領域生成部21が出力した被写体領域52を符号化して、符号化被写体領域Tを出力する。背景符号化部24は、背景領域生成部22が出力した背景領域を符号化して、符号化背景領域Bを出力する。このように、被写体領域52と背景領域の符号化部は、被写体符号化部23、背景符号化部24として、別々に設けられる。
ここで、本明細書では、符号化方式と、その符号化方式に適用した符号化パラメータの組み合わせを符号化手順と呼ぶものとする。被写体符号化部23の符号化手順は、画質が高いことを優先して定められる。被写体符号化部23では、ビットレートや符号化処理の処理負荷については重視しない。他方、背景符号化部24の符号化手順は、ビットレートが低いこと、処理負荷が低いことの一方、或いは両方を優先して定められる。背景符号化部24では、画質については重視しない。
被写体符号化部23の符号化手順と、背景符号化部24の符号化手順の両方において、同一の符号化方式を採用してもよい。この場合、符号化被写体領域Tを復号、再生して得られる動画が、符号化背景領域Bを復号、再生して得られる動画よりも高画質になるように、符号化パラメータが定められる。
また、被写体符号化部23の符号化手順と、背景符号化部24の符号化手順とを互いに異なる符号化方式を採用してもよい。例えば、被写体符号化部23の符号化方式として、符号化処理の処理負荷は高いが、画質も高いH.265/MPEG-H HEVCを採用する一方、背景符号化部24の符号化方式として、符号化処理の処理負荷は低いが、画質も低いH.264/MPEG-4 AVCを採用することが考えられる。
このようにして、符号化部2は、フレーム5を入力として、位置情報P、符号化被写体領域T、符号化背景領域Bを出力する。符号化部2が出力した位置情報P、符号化被写体領域T、符号化背景領域Bは、互いに関連付けられてストレージ3に格納される。
図5を参照してストレージ3について説明する。ストレージ3は、例えば、ハードディスクドライブ、SSD (Solid State Drive)等の記憶装置である。フレームF1、F2、F3、…を一連の動画を構成するフレームとする。上述のようにして、符号化部2は、フレームF1から、符号化背景領域B1、符号化被写体領域T1、位置情報P1を生成する。フレームF2、F3、…についても同様である。このとき、ストレージ3は、符号化背景領域B1、符号化被写体領域T1、位置情報P1を互いに関連付けて格納する。同様に、符号化背景領域B2、符号化被写体領域T2、位置情報P2を互いに関連付けて格納し、符号化背景領域B3、符号化被写体領域T3、位置情報P3を互いに関連付けて格納する。フレームF4以後についても同様である。
図6を参照して復号化部4について説明する。復号化部4は、互いに関連付けてストレージ3に格納されている位置情報P、符号化被写体領域T、符号化背景領域Bに基づいて動画を再生し、不図示の画像表示装置に出力する。復号化部4は、被写体復号化部41、背景復号化部42、合成部43を備える。
被写体復号化部41は、ストレージ3から読み出した符号化被写体領域Tに対し、被写体符号化部23が行った符号化処理に対応する復号化処理を実行する。復号化処理によって、被写体復号化部41は、復号化した符号化被写体領域T、即ち、復号化被写体領域を生成し、合成部43に出力する。
同様に、背景復号化部42は、ストレージ3から読み出した符号化背景領域Bに対し、背景符号化部24が行った符号化処理に対応する復号化処理を実行する。復号化処理によって、背景復号化部42は、復号化した符号化背景領域B、即ち、復号化背景領域を生成し、合成部43に出力する。
合成部43は、被写体復号化部41が復号化した被写体領域を、背景復号化部42が復号化した背景領域と合成して、フレームを生成する。その際、背景領域の中で、位置情報Pによって定められる位置に被写体領域を上書きするようにして合成する。
動画記録再生装置1によれば、利用者にとって重要度が高いターゲットを含む被写体領域については、高処理負荷、高ビットレートを割り当てて、高画質に記録する一方で、利用者にとって重要度が低い背景領域については、低処理負荷、低ビットレートを割り当てて、低画質に記録する。このため、動画全体としてのビットレートと、動画全体として符号化/復号化に要する処理負荷とを抑制しつつ、ターゲットを鮮明に記録することができる。動画全体としてのビットレートを抑えることができるため、ストレージ3に記録する際に必要となる容量についても抑制することができる。
(変形1)
上述の動画記録再生装置1では、動画を記録する際には、ダウンコンバートしたフレーム5を背景領域としてストレージ3に格納する一方、ターゲット51を含む被写体領域52については画質を維持したままストレージ3に格納した。また、記録した動画を再生する際には、背景領域内において位置情報Pが示す位置に被写体領域52を合成して出力した。
本変形では、背景領域を記録せずに被写体領域のみを記録する。このため、本変形の動画記録再生装置1では、背景領域生成部22、背景符号化部24、背景復号化部42を省略する。
符号化部2において、被写体領域生成部21は、フレーム5のうち、ターゲット51を含む領域を被写体領域52として切り出すと共に、その被写体領域52の位置を示す位置情報Pを出力する。本変形では、更に、被写体領域生成部21は、フレーム5のサイズを示すサイズ情報を取得して、位置情報Pの一部として出力する。サイズ情報はフレーム毎に取得する必要はなく、動画ひとつにつき少なくとも1回取得すればよい。本変形では、符号化部2は、背景領域生成部22、背景符号化部24を備えていないため、符号化背景領域Bの出力は行わない。
また、符号化部2において、被写体符号化部23は、上述の説明と同様に動作し、符号化被写体領域Tを出力する。
ストレージ3は、符号化被写体領域T、位置情報Pをフレーム毎に互いに関連付けて記録する。本変形では符号化部2は符号化背景領域Bを出力しないので、ストレージ3は符号化背景領域Bの記録は行わない。
復号化部4において、被写体復号化部41の動作は上述の説明と同様である。合成部43は、サイズ情報が指定する大きさの単色の画面を生成し、その単色画面において位置情報Pが示す位置に、被写体復号化部41が復号した被写体領域を合成し出力する。
例えば、フレーム5の解像度が横1920ドット、縦1080ドットの所謂フルHD(High Definition)であるとき、被写体領域生成部21は、位置情報Pの一部として、1920×1080のサイズ情報を出力する。このとき、合成部43は、横1920、縦1080の単色画像(例えば白色画像)を合成し、この単色画面内の位置情報Pが示す位置に、被写体復号化部41が復号した被写体領域を合成して出力する。
本変形によれば、背景領域生成部22、背景符号化部24が不要なため、動画記録再生装置1の処理負荷を軽減することができる。また、ストレージ3は符号化背景領域Bを格納しないため、ストレージ3の容量を抑えることができる。また、背景復号化部42が不要なため、動画記録再生装置1の処理負荷を軽減することができる。
(第2の実施の形態)
上述の第1の実施の形態に係る動画記録再生装置1では、動画を符号化部2にて符号化し、いったんストレージ3に格納した後、復号化部4にてストレージ3から符号化した動画を読み出して、画像表示装置に動画を出力した。これに対して、本実施の形態では、符号化部2の出力をデータ通信ネットワークを介して復号化部4に伝送する点で異なる。
図7を参照して説明すると、本実施の形態の動画伝送システム70は、動画記録再生装置1のストレージ3の代わりに、2つのネットワークインタフェース71、72と、それらの間を接続するデータ通信ネットワーク73を備える。符号化部2、復号化部4については、上述の第1の実施の形態または変形1と同様である。動画伝送システム70は、典型的には、監視カメラで撮影した動画を伝送し、遠隔地にて再生するためのシステムである。
データ通信ネットワーク73は例えばインターネットである。ネットワークインタフェース71、72はデータ通信ネットワーク73を介してデータ通信を行うためのインタフェース装置である。ネットワークインタフェース71は、一つのフレームについての符号化部2の出力を、互いに関連付けてデータ通信ネットワーク73を介してネットワークインタフェース72に送信する。
動画伝送システム70によれば、ターゲット51の画像を鮮明に保ちつつ、低いビットレートで動画を伝送することができる。
上記の実施形態の一部又は全部は以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
入力された動画のフレームの中から、予め定められたターゲット抽出アルゴリズムに基づく処理を実行してターゲットを抽出し、前記ターゲットを含む被写体領域を生成すると共に、前記フレーム内における前記被写体領域の位置を示す位置情報を取得する被写体領域生成手段と、
前記被写体領域に対し、第1の符号化手順に基づく符号化処理を実行して、符号化被写体領域を生成する被写体符号化手段と、
前記符号化被写体領域に対し、前記第1の符号化手順に基づく復号化処理を実行して、復号化被写体領域を生成する被写体復号化手段と、
前記フレーム内の前記位置情報が示す位置に、前記復号化被写体領域を配置した動画を合成する合成手段と
を備える動画符号化復号化システム。
(付記2)
前記被写体領域生成手段は、更に、前記フレームのサイズを示すサイズ情報を取得し、
前記合成手段は、前記サイズ情報が示すサイズを有する単色画像内の前記位置情報が示す位置に、前記復号化被写体領域を配置した動画を合成する、
付記1に記載の動画符号化復号化システム。
(付記3)
前記入力された動画のフレームを低画質化した背景領域を生成する背景領域生成手段と、
前記背景領域に対し、第2の符号化手順に基づく符号化処理を実行して、符号化背景領域を生成する背景符号化手段と、
前記符号化背景領域に対し、前記第2の符号化手順に基づく復号化処理を実行して、復号化背景領域を生成する背景復号化手段と、
を更に備える付記1に記載の動画符号化復号化システム。
(付記4)
前記第1の符号化手順の符号化方式と、前記第2の符号化手順の符号化方式は互いに異なる、付記3に記載の動画符号化復号化システム。
(付記5)
前記第1の符号化手順と、前記第2の符号化手順は、同一の符号化方式に対し、互いに異なる符号化パラメータを組み合わせたものである、付記3に記載の動画符号化復号化システム。
(付記6)
前記ターゲット抽出アルゴリズムは動体検知である、付記1乃至付記5のいずれかに記載の動画符号化復号化システム。
(付記7)
付記1乃至付記6のいずれかに記載の動画符号化復号化システムと、
前記被写体領域生成手段から入力された、一つのフレームの前記符号化被写体領域と、当該フレームの前記位置情報とを互いに関連付けて格納し、格納した前記符号化被写体領域を前記被写体復号化手段に出力し、格納した前記位置情報を前記合成手段に出力するストレージを備える、動画記録再生装置。
(付記8)
付記1乃至付記6のいずれかに記載の動画符号化復号化システムと、
前記被写体領域生成手段から入力された、一つのフレームの前記符号化被写体領域と、当該フレームの前記位置情報とを互いに関連付けて、データ通信ネットワークに送信する第1のネットワークインタフェースと、
前記データ通信ネットワークを介して、前記第1のネットワークインタフェースから前記符号化被写体領域と前記位置情報とを受信する第2のネットワークインタフェースと
を備える、動画伝送システム。
(付記9)
入力された動画のフレームの中から、予め定められたターゲット抽出アルゴリズムに基づく処理を実行してターゲットを抽出し、前記ターゲットを含む被写体領域を生成すると共に、前記フレーム内における前記被写体領域の位置を示す位置情報を取得する被写体領域生成手段と、
前記被写体領域に対し、第1の符号化手順に基づく符号化処理を実行して、符号化被写体領域を生成する被写体符号化手段とを備え、
前記位置情報と前記符号化被写体領域とを出力する、動画符号化システム。
(付記10)
前記被写体領域生成手段は、更に、前記フレームのサイズを示すサイズ情報を取得し、
前記サイズ情報を出力する、付記9に記載の動画符号化システム。
(付記11)
前記入力された動画のフレームを低画質化した背景領域を生成する背景領域生成手段と、
前記背景領域に対し、第2の符号化手順に基づく符号化処理を実行して、符号化背景領域を生成する背景符号化手段と、
を更に備え、前記符号化背景領域を出力する、付記9に記載の動画符号化システム。
(付記12)
前記第1の符号化手順の符号化方式と、前記第2の符号化手順の符号化方式は互いに異なる、付記11に記載の動画符号化システム。
(付記13)
前記第1の符号化手順と、前記第2の符号化手順は、同一の符号化方式に対し、互いに異なる符号化パラメータを組み合わせたものである、付記11に記載の動画符号化システム。
(付記14)
前記ターゲット抽出アルゴリズムは動体検知である、付記9乃至付記13のいずれかに記載の動画符号化システム。
(付記15)
動画のフレームの中から、予め定められたターゲット抽出アルゴリズムに基づいて抽出されたターゲットを含むようにして、外部で予め生成された被写体領域に対し、第1の符号化手順に基づく復号化処理を実行して、復号化被写体領域を生成する被写体復号化手段と、
前記フレーム内における前記被写体領域の位置を示すように外部で予め生成された位置情報が示す位置に、前記復号化被写体領域を配置した動画を合成する合成手段と
を備える動画復号化システム。
(付記16)
前記合成手段は、前記フレームのサイズを示すように外部で予め生成されたサイズ情報が示すサイズを有する単色画像内の前記位置情報が示す位置に、前記復号化被写体領域を配置した動画を合成する、
付記15に記載の動画復号化システム。
(付記17)
前記フレームを低画質化した背景領域に対し、第2の符号化手順に基づく符号化処理を実行することにより、外部で予め生成された符号化背景領域に対し、前記第2の符号化手順に基づく復号化処理を実行して、復号化背景領域を生成する背景復号化手段を更に備える付記15に記載の動画復号化システム。
(付記18)
前記第1の符号化手順の符号化方式と、前記第2の符号化手順の符号化方式は互いに異なる、付記17に記載の動画復号化システム。
(付記19)
前記第1の符号化手順と、前記第2の符号化手順は、同一の符号化方式に対し、互いに異なる符号化パラメータを組み合わせたものである、付記17に記載の動画復号化システム。
(付記20)
前記ターゲット抽出アルゴリズムは動体検知である、付記15乃至付記19のいずれかに記載の動画復号化システム。
(付記21)
入力された動画のフレームの中から、予め定められたターゲット抽出アルゴリズムに基づく処理を実行してターゲットを抽出し、前記ターゲットを含む被写体領域を生成すると共に、前記フレーム内における前記被写体領域の位置を示す位置情報を取得する被写体領域生成段階と、
前記被写体領域に対し、第1の符号化手順に基づく符号化処理を実行して、符号化被写体領域を生成する被写体符号化段階と、
前記符号化被写体領域に対し、前記第1の符号化手順に基づく復号化処理を実行して、復号化被写体領域を生成する被写体復号化段階と、
前記フレーム内の前記位置情報が示す位置に、前記復号化被写体領域を配置した動画を合成する合成段階と
を含む動画符号化復号化方法。
(付記22)
前記被写体領域生成段階は、更に、前記フレームのサイズを示すサイズ情報を取得し、
前記合成段階は、前記サイズ情報が示すサイズを有する単色画像内の前記位置情報が示す位置に、前記復号化被写体領域を配置した動画を合成する、
付記21に記載の動画符号化復号化方法。
(付記23)
前記入力された動画のフレームを低画質化した背景領域を生成する背景領域生成段階と、
前記背景領域に対し、第2の符号化手順に基づく符号化処理を実行して、符号化背景領域を生成する背景符号化段階と、
前記符号化背景領域に対し、前記第2の符号化手順に基づく復号化処理を実行して、復号化背景領域を生成する背景復号化段階と、
を更に含む付記21に記載の動画符号化復号化方法。
(付記24)
前記第1の符号化手順の符号化方式と、前記第2の符号化手順の符号化方式は互いに異なる、付記23に記載の動画符号化復号化方法。
(付記25)
前記第1の符号化手順と、前記第2の符号化手順は、同一の符号化方式に対し、互いに異なる符号化パラメータを組み合わせたものである、付記23に記載の動画符号化復号化方法。
(付記26)
前記ターゲット抽出アルゴリズムは動体検知である、付記21乃至付記25のいずれかに記載の動画符号化復号化方法。
(付記27)
付記21乃至付記26のいずれかに記載の動画符号化復号化方法を含み、
前記被写体領域生成段階は、入力された一つのフレームの前記符号化被写体領域と、当該フレームの前記位置情報とを互いに関連付けてストレージに格納し、
前記被写体復号化段階は、前記ストレージに格納された前記符号化被写体領域を復号し、
前記合成段階は、前記ストレージに格納された前記位置情報に基づいて動画を合成する、動画記録再生方法。
(付記28)
付記21乃至付記26のいずれかに記載の動画符号化復号化方法と、
前記被写体領域生成段階にて入力された、一つのフレームの前記符号化被写体領域と、当該フレームの前記位置情報とを互いに関連付けて、データ通信ネットワークに送信する段階と、
前記データ通信ネットワークを介して、前記符号化被写体領域と前記位置情報とを受信する段階と
を含む、動画伝送方法。
(付記29)
入力された動画のフレームの中から、予め定められたターゲット抽出アルゴリズムに基づく処理を実行してターゲットを抽出し、前記ターゲットを含む被写体領域を生成すると共に、前記フレーム内における前記被写体領域の位置を示す位置情報を取得する被写体領域生成手段と、
前記被写体領域に対し、第1の符号化手順に基づく符号化処理を実行して、符号化被写体領域を生成する被写体符号化手段と、
前記位置情報と前記符号化被写体領域とを出力する手段と
してコンピュータを機能させるプログラム。
(付記30)
前記被写体領域生成手段は、更に、前記フレームのサイズを示すサイズ情報を取得し、
前記サイズ情報を出力する手段としてコンピュータを機能させる、付記29に記載のプログラム。
(付記31)
前記入力された動画のフレームを低画質化した背景領域を生成する背景領域生成手段と、
前記背景領域に対し、第2の符号化手順に基づく符号化処理を実行して、符号化背景領域を生成する背景符号化手段と、
前記符号化背景領域を出力する手段と
してコンピュータを機能させる、付記29に記載のプログラム。
(付記32)
前記第1の符号化手順の符号化方式と、前記第2の符号化手順の符号化方式は互いに異なる、付記31に記載のプログラム。
(付記33)
前記第1の符号化手順と、前記第2の符号化手順は、同一の符号化方式に対し、互いに異なる符号化パラメータを組み合わせたものである、付記31に記載のプログラム。
(付記34)
前記ターゲット抽出アルゴリズムは動体検知である、付記29乃至付記33のいずれかに記載のプログラム。
(付記35)
動画のフレームの中から、予め定められたターゲット抽出アルゴリズムに基づいて抽出されたターゲットを含むようにして、外部で予め生成された被写体領域に対し、第1の符号化手順に基づく復号化処理を実行して、復号化被写体領域を生成する被写体復号化手段と、
前記フレーム内における前記被写体領域の位置を示すように外部で予め生成された位置情報が示す位置に、前記復号化被写体領域を配置した動画を合成する合成手段と
してコンピュータを機能させるプログラム。
(付記36)
前記合成手段は、前記フレームのサイズを示すように外部で予め生成されたサイズ情報が示すサイズを有する単色画像内の前記位置情報が示す位置に、前記復号化被写体領域を配置した動画を合成する、付記35に記載のプログラム。
(付記37)
前記フレームを低画質化した背景領域に対し、第2の符号化手順に基づく符号化処理を実行することにより、外部で予め生成された符号化背景領域に対し、前記第2の符号化手順に基づく復号化処理を実行して、復号化背景領域を生成する背景復号化手段としてコンピュータを更に機能させる付記35に記載のプログラム。
(付記38)
前記第1の符号化手順の符号化方式と、前記第2の符号化手順の符号化方式は互いに異なる、付記37に記載のプログラム。
(付記39)
前記第1の符号化手順と、前記第2の符号化手順は、同一の符号化方式に対し、互いに異なる符号化パラメータを組み合わせたものである、付記37に記載のプログラム。
(付記40)
前記ターゲット抽出アルゴリズムは動体検知である、付記35乃至付記39のいずれかに記載のプログラム。
1 動画記録再生装置
2 符号化部
3 ストレージ
4 復号化部
5、6 フレーム
21 被写体領域生成部
22 背景領域生成部
23 被写体符号化部
24 背景符号化部
41 被写体復号化部
42 背景復号化部
43 合成部
51 ターゲット
52 被写体領域
70 動画伝送システム
71、72 ネットワークインタフェース
73 データ通信ネットワーク
B 符号化背景領域
T 符号化被写体領域
P 位置情報

Claims (10)

  1. 入力された動画のフレームの中から、予め定められたターゲット抽出アルゴリズムに基づく処理を実行してターゲットを抽出し、前記ターゲットを含む被写体領域を生成すると共に、前記フレーム内における前記被写体領域の位置を示す位置情報を取得する被写体領域生成手段と、
    前記被写体領域に対し、第1の符号化手順に基づく符号化処理を実行して、符号化被写体領域を生成する被写体符号化手段と、
    前記符号化被写体領域に対し、前記第1の符号化手順に基づく復号化処理を実行して、復号化被写体領域を生成する被写体復号化手段と、
    前記フレーム内の前記位置情報が示す位置に、前記復号化被写体領域を配置した動画を合成する合成手段と
    を備える動画符号化復号化システム。
  2. 前記被写体領域生成手段は、更に、前記フレームのサイズを示すサイズ情報を取得し、
    前記合成手段は、前記サイズ情報が示すサイズを有する単色画像内の前記位置情報が示す位置に、前記復号化被写体領域を配置した動画を合成する、
    請求項1に記載の動画符号化復号化システム。
  3. 前記入力された動画のフレームを低画質化した背景領域を生成する背景領域生成手段と、
    前記背景領域に対し、第2の符号化手順に基づく符号化処理を実行して、符号化背景領域を生成する背景符号化手段と、
    前記符号化背景領域に対し、前記第2の符号化手順に基づく復号化処理を実行して、復号化背景領域を生成する背景復号化手段と、
    を更に備える請求項1に記載の動画符号化復号化システム。
  4. 前記第1の符号化手順の符号化方式と、前記第2の符号化手順の符号化方式は互いに異なる、請求項3に記載の動画符号化復号化システム。
  5. 前記第1の符号化手順と、前記第2の符号化手順は、同一の符号化方式に対し、互いに異なる符号化パラメータを組み合わせたものである、請求項3に記載の動画符号化復号化システム。
  6. 前記ターゲット抽出アルゴリズムは動体検知である、請求項1乃至請求項5のいずれかに記載の動画符号化復号化システム。
  7. 請求項1乃至請求項6のいずれかに記載の動画符号化復号化システムと、
    前記被写体領域生成手段から入力された、一つのフレームの前記符号化被写体領域と、当該フレームの前記位置情報とを互いに関連付けて格納し、格納した前記符号化被写体領域を前記被写体復号化手段に出力し、格納した前記位置情報を前記合成手段に出力するストレージを備える、動画記録再生装置。
  8. 請求項1乃至請求項6のいずれかに記載の動画符号化復号化システムと、
    前記被写体領域生成手段から入力された、一つのフレームの前記符号化被写体領域と、当該フレームの前記位置情報とを互いに関連付けて、データ通信ネットワークに送信する第1のネットワークインタフェースと、
    前記データ通信ネットワークを介して、前記第1のネットワークインタフェースから前記符号化被写体領域と前記位置情報とを受信する第2のネットワークインタフェースと
    を備える、動画伝送システム。
  9. 入力された動画のフレームの中から、予め定められたターゲット抽出アルゴリズムに基づく処理を実行してターゲットを抽出し、前記ターゲットを含む被写体領域を生成すると共に、前記フレーム内における前記被写体領域の位置を示す位置情報を取得する被写体領域生成手段と、
    前記被写体領域に対し、第1の符号化手順に基づく符号化処理を実行して、符号化被写体領域を生成する被写体符号化手段とを備え、
    前記位置情報と前記符号化被写体領域とを出力する、動画符号化システム。
  10. 入力された動画のフレームの中から、予め定められたターゲット抽出アルゴリズムに基づく処理を実行してターゲットを抽出し、前記ターゲットを含む被写体領域を生成すると共に、前記フレーム内における前記被写体領域の位置を示す位置情報を取得する被写体領域生成段階と、
    前記被写体領域に対し、第1の符号化手順に基づく符号化処理を実行して、符号化被写体領域を生成する被写体符号化段階と、
    前記符号化被写体領域に対し、前記第1の符号化手順に基づく復号化処理を実行して、復号化被写体領域を生成する被写体復号化段階と、
    前記フレーム内の前記位置情報が示す位置に、前記復号化被写体領域を配置した動画を合成する合成段階と
    を含む動画符号化復号化方法。
JP2018212978A 2018-11-13 2018-11-13 動画記録再生装置、動画伝送システムおよび方法 Pending JP2020080479A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018212978A JP2020080479A (ja) 2018-11-13 2018-11-13 動画記録再生装置、動画伝送システムおよび方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018212978A JP2020080479A (ja) 2018-11-13 2018-11-13 動画記録再生装置、動画伝送システムおよび方法

Publications (1)

Publication Number Publication Date
JP2020080479A true JP2020080479A (ja) 2020-05-28

Family

ID=70802007

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018212978A Pending JP2020080479A (ja) 2018-11-13 2018-11-13 動画記録再生装置、動画伝送システムおよび方法

Country Status (1)

Country Link
JP (1) JP2020080479A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102297262B1 (ko) * 2020-07-16 2021-09-03 한국과학기술연구원 하이브리드 해상도를 가진 영상 데이터 전송 방법 및 이를 이용한 하이브리드 해상도 영상 생성 방법

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1013799A (ja) * 1996-06-19 1998-01-16 Mega Chips:Kk テレビ電話装置
JPH10271499A (ja) * 1997-03-26 1998-10-09 Sanyo Electric Co Ltd 画像領域を用いる画像処理方法、その方法を用いた画像処理装置および画像処理システム
JP2003125369A (ja) * 2001-10-19 2003-04-25 Nec Corp 映像送受信装置および映像送受信プログラム
JP2009049979A (ja) * 2007-07-20 2009-03-05 Fujifilm Corp 画像処理装置、画像処理方法、画像処理システム、及びプログラム
JP2010212811A (ja) * 2009-03-06 2010-09-24 Panasonic Corp 動画像符号化装置及び動画像復号化装置
JP2010268307A (ja) * 2009-05-15 2010-11-25 Tokyo Metropolitan Univ 動画像処理装置、動画像処理プログラム、及び動画像処理方法
JP2012094985A (ja) * 2010-10-25 2012-05-17 Nikon Corp 画像処理装置、及び方法、プログラム並びに記憶媒体
JP2013168739A (ja) * 2012-02-14 2013-08-29 Hitachi Ltd 画像処理システム、及び、画像処理方法
US20130336381A1 (en) * 2012-06-19 2013-12-19 Quanta Computer Inc. Video transmission system and transmitting device and receiving device thereof
US20140198838A1 (en) * 2013-01-15 2014-07-17 Nathan R. Andrysco Techniques for managing video streaming

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1013799A (ja) * 1996-06-19 1998-01-16 Mega Chips:Kk テレビ電話装置
JPH10271499A (ja) * 1997-03-26 1998-10-09 Sanyo Electric Co Ltd 画像領域を用いる画像処理方法、その方法を用いた画像処理装置および画像処理システム
JP2003125369A (ja) * 2001-10-19 2003-04-25 Nec Corp 映像送受信装置および映像送受信プログラム
JP2009049979A (ja) * 2007-07-20 2009-03-05 Fujifilm Corp 画像処理装置、画像処理方法、画像処理システム、及びプログラム
JP2010212811A (ja) * 2009-03-06 2010-09-24 Panasonic Corp 動画像符号化装置及び動画像復号化装置
JP2010268307A (ja) * 2009-05-15 2010-11-25 Tokyo Metropolitan Univ 動画像処理装置、動画像処理プログラム、及び動画像処理方法
JP2012094985A (ja) * 2010-10-25 2012-05-17 Nikon Corp 画像処理装置、及び方法、プログラム並びに記憶媒体
JP2013168739A (ja) * 2012-02-14 2013-08-29 Hitachi Ltd 画像処理システム、及び、画像処理方法
US20130336381A1 (en) * 2012-06-19 2013-12-19 Quanta Computer Inc. Video transmission system and transmitting device and receiving device thereof
US20140198838A1 (en) * 2013-01-15 2014-07-17 Nathan R. Andrysco Techniques for managing video streaming

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102297262B1 (ko) * 2020-07-16 2021-09-03 한국과학기술연구원 하이브리드 해상도를 가진 영상 데이터 전송 방법 및 이를 이용한 하이브리드 해상도 영상 생성 방법

Similar Documents

Publication Publication Date Title
US20200304790A1 (en) Image processing apparatus and method
US11350127B2 (en) Apparatus and method for image processing
US20180192063A1 (en) Method and System for Virtual Reality (VR) Video Transcode By Extracting Residual From Different Resolutions
CN109074161B (zh) 用于360度视频的混合图形及像素域架构
US10244215B2 (en) Re-projecting flat projections of pictures of panoramic video for rendering by application
US20180152663A1 (en) View-dependent operations during playback of panoramic video
US20210243475A1 (en) Image processing apparatus and method
KR20200003715A (ko) 오버레이로 비디오를 인코딩하기 위한 방법 및 시스템
RU2513912C2 (ru) Устройство и способ обработки изображений
KR20190022534A (ko) 화상 처리 장치 및 방법
JP5181294B2 (ja) 撮像システム、撮像方法、およびプログラム
WO2018131515A1 (ja) 画像処理装置及び画像処理方法
CA3018600C (en) Method, apparatus and stream of formatting an immersive video for legacy and immersive rendering devices
JP7249766B2 (ja) 情報処理装置、システム、情報処理装置の制御方法、及び、プログラム
US20200288123A1 (en) Image processing apparatus and image processing method
JP2006245746A (ja) 監視システム
JP2014039219A (ja) 映像復号装置、映像送受信システム、映像復号方法及び映像送受信方法
CN112153391A (zh) 视频编码的方法、装置、电子设备及存储介质
JPWO2018173873A1 (ja) 符号化装置及び符号化方法、並びに、復号装置及び復号方法
JP2020080479A (ja) 動画記録再生装置、動画伝送システムおよび方法
US10783670B2 (en) Method for compression of 360 degree content and electronic device thereof
US20210304494A1 (en) Image processing apparatus, 3d data generation apparatus, control program, and recording medium
KR20080069318A (ko) 영역 영상을 처리하는 장치 및 그 제어방법
JP4235209B2 (ja) 動きベクトル検出装置および動きベクトル検出方法
JPWO2014030665A1 (ja) 受信装置、送信装置および画像送信方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200309

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210303

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210310

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210526

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20211117