JP2020188368A - 原映像ストリームから有意映像ストリームを生成するプログラム、装置及び方法 - Google Patents
原映像ストリームから有意映像ストリームを生成するプログラム、装置及び方法 Download PDFInfo
- Publication number
- JP2020188368A JP2020188368A JP2019091895A JP2019091895A JP2020188368A JP 2020188368 A JP2020188368 A JP 2020188368A JP 2019091895 A JP2019091895 A JP 2019091895A JP 2019091895 A JP2019091895 A JP 2019091895A JP 2020188368 A JP2020188368 A JP 2020188368A
- Authority
- JP
- Japan
- Prior art keywords
- video stream
- significant
- frame
- macroblock
- original video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/40—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video transcoding, i.e. partial or full decoding of a coded input stream followed by re-encoding of the decoded output stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/136—Incoming video signal characteristics or properties
- H04N19/137—Motion inside a coding unit, e.g. average field, frame or block difference
- H04N19/139—Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/177—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/48—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using compressed domain processing techniques other than decoding, e.g. modification of transform coefficients, variable length coding [VLC] data or run-length data
Abstract
Description
映像ストリームとしては、ユーザが家庭用に所持するビデオカメラによって撮影されたものであってもよいし、固定的に設置された防犯カメラによって撮影されたものであってもよい。近年、一般的な需要として、車両から見た視界を撮影するカメラを搭載したドライブレコーダがある。ドライブレコーダは、車両の走行中に撮影した映像ストリームを常時記憶し続ける。
また、端末1は、CAN(Controller Area Network)を介して車両走行情報を取得することもできる。その車両走行情報も、映像ストリームと一緒に、データセンタ2へ送信してもよい。
データセンタ2は、端末1から受信した映像ストリーム及び車両走行情報を分析することができる。例えば、映像ストリームに映り込む物体を検出し且つ識別すると共に、その車両走行情報を対応付けることもできる。
また、ドライブレコーダが、特定方向の加速度の値が所定値を超えたときに、車両に設置された複数のカメラによって取得された画像データを出力する技術もある(例えば特許文献2参照)。
更に、作業者が装着するカメラが撮影する映像に対して、データ量を削減する遠隔作業支援システムの技術もある(例えば特許文献3参照)。この技術によれば、映像フレーム内で動きの大きい領域が存在するかどうかを評価し、動きの大きい領域が存在しない場合には、重要でないとみなして削除する。
特許文献2に記載の技術によれば、車両の加速度しか判定要素としていない。そのために、加速度が変化しない定常走行状態では、画像データを出力しなくなる。
特許文献3に記載の技術によれば、画像内の動きを評価して符号化している。そのために、既に符号化された映像データに対して、マクロブロックの符号化パラメータを評価し、削減すべき映像データを特定することはできない。
原映像ストリームからフレーム毎に各マクロブロックの符号化パラメータを抽出する符号化パラメータ抽出手段と、
所定条件を満たす符号化パラメータを持つ有意なマクロブロックを選別するマクロブロック選別手段と、
有意なマクロブロックを持つ符号化パラメータのフレームと時間的に同期した原映像ストリームのフレームを時系列に結合した有意映像ストリームを生成する有意映像ストリーム生成手段と
してコンピュータを機能させることを特徴とする。
有意映像ストリーム生成手段は、符号化パラメータのフレームに同期した原映像ストリームのフレームを時系列に結合したものに加えて、当該符号化パラメータのフレームを時系列に結合したものを有意映像ストリームとして生成する
ようにコンピュータを機能させることも好ましい。
有意映像ストリーム生成手段は、有意映像ストリームとして、フレーム毎に、フレーム番号及び/又はタイムコードを含める
ようにコンピュータを機能させることも好ましい。
有意映像ストリーム生成手段は、有意映像ストリームとして、フレーム毎に、有意なマクロブロックと、これらマクロブロックの分布情報とを含める
ようにコンピュータを機能させることも好ましい。
有意映像ストリーム生成手段は、有意映像ストリームとして、フレームを含むGOP(Group Of Pictures)単位で含める
ようにコンピュータを機能させることも好ましい。
有意なマクロブロックを持つ符号化パラメータのフレームに相当しないGOPは、削除するか、又は、所定割合以上の高い圧縮率で圧縮する
ようにコンピュータを機能させることも好ましい。
原映像ストリームは、移動体に搭載されたカメラから撮影されたものであり、
有意映像ストリームは、当該カメラから見える周辺物体の中で、急に出現し又は消滅した周辺物体のみが映り込んだものである
ようにコンピュータを機能させることも好ましい。
符号化とは、MPEG(Moving Picture Experts Group)に基づくものであり、
符号化パラメータは、以下のいずれかとなる
順方向予測(インター)の動きベクトルの大きさ及び向き、
画面内予測(イントラ)の符号量、
又は、
量子化(Quantization)ステップのサイズ
ようにコンピュータを機能させることも好ましい。
マクロブロック選別手段は、時間的変動が所定以上大きい有意なマクロブロックを選別するために、
所定条件として、マクロブロック毎に、
順方向予測の動きベクトルが、所定長以上の大きさで、且つ、消失点(地平線上の収束点)の方向に対して所定角度以上であるか、
画面内予測の符号量が、第1の符号量以上であるか、又は、
量子化ステップサイズが、所定サイズ以下である
ようにコンピュータを機能させることも好ましい。
有意映像ストリーム生成手段は、画面内予測の符号量が、第2の符号量以上となるフレームを、当該移動体が停止中であると判定して、有意映像ストリームから除外する
ようにコンピュータを機能させることも好ましい。
マクロブロック選別手段は、有意なマクロブロックを分布情報に応じて空間方向に接合した符号化パラメータマップを生成する
ようにコンピュータを機能させ、
符号化パラメータマップは、符号化パラメータが所定条件を満たす度合いが高いほど、当該マクロブロックの部分の色合いの階調を濃く表示されたマップである
ようにコンピュータを機能させることも好ましい。
原映像ストリームは、符号化されており、
符号化パラメータ抽出手段は、原映像ストリームを簡易伸張させて、フレーム毎に各マクロブロックの符号化パラメータを抽出する
ようにコンピュータを機能させることも好ましい。
原映像ストリームからフレーム毎に各マクロブロックの符号化パラメータを抽出する符号化パラメータ抽出手段と、
所定条件を満たす符号化パラメータを持つ有意なマクロブロックを選別するマクロブロック選別手段と、
有意なマクロブロックを持つ符号化パラメータのフレームと時間的に同期した原映像ストリームのフレームを時系列に結合した有意映像ストリームを生成する有意映像ストリーム生成手段と
を有することを特徴とする。
装置は、
原映像ストリームからフレーム毎に各マクロブロックの符号化パラメータを抽出する第1のステップと、
所定条件を満たす符号化パラメータを持つ有意なマクロブロックを選別する第2のステップと、
有意なマクロブロックを持つ符号化パラメータのフレームと時間的に同期した原映像ストリームのフレームを時系列に結合した有意映像ストリームを生成する第3のステップと
を実行することを特徴とする。
「原映像ストリーム」は、例えば車両のような移動体に搭載されたカメラから撮影されたものであって、符号化された映像ストリームである。
「有意映像ストリーム」は、例えば物体検出や物体認識、又は、移動体における走行状態(速度や加速度)などを分析するために必要な映像のみを含んだものである。
有意映像ストリームは、一般的に、当該カメラから見える周辺物体の中で、急に出現し又は消滅した周辺物体のみが映り込んだものとなる。勿論、それに限られるものでもない。
これによって、有意映像ストリームは、原映像ストリームからみて、伝送又は蓄積すべき映像ストリームの容量を削減したものとなる。
符号化方式としては、MPEGに基づくH.264やH.265などの標準フォーマットでもよいし、非標準のフォーマットでもよい。また、空間解像度や時間解像度(フレームレート)、符号化率(ビットレート)についても、任意であってよい。
原映像ストリーム記憶部10は、カメラによって撮影された原映像ストリームを一時的に蓄積する。原映像ストリームは、例えばMPEGによって符号化されたものである。
そして、原映像ストリーム記憶部10は、任意のタイミングで、原映像ストリームを、原映像ストリーム記憶部10へ出力する。
符号化パラメータ抽出部11は、符号化された原映像ストリームを簡易的に伸張(デコード)し、ビットストリームを解釈(パース)する。ここでの簡易的な伸張は、符号化パラメータを抽出するのみであって、完全に伸張することなく、視覚的な映像フレームとしては復元されない。例えば符号化パラメータが差分で表現されている場合に、元の値に戻すだけでよく、符号化パラメータを処理できる状態にすればよい。
シーケンスヘッダには、フレームの縦横画素数等が記述される。
GOPデータは、GOPヘッダと、一連の順序を持った複数のピクチャデータ(I、P及びBピクチャデータの集合)とから構成される。GOPヘッダは、グループの最初に提示する画面の時刻を表すタイムコード等を含む。ピクチャデータは、1枚のフレーム(画像)を表す。
ピクチャデータは、ピクチャヘッダと、スライスデータとから構成される。図3によれば、1枚のピクチャデータは、縦1088画素(68ラインスライス)×横1440画素(90マクロブロック)から構成される。スライスは、1枚のピクチャを帯状に断片化したものである。
スライスは、スライスヘッダと、90個のマクロブロックデータとから構成される。
マクロブロックは、16画素×16ラインの正方形の画素ブロックである。
そして、マクロブロック毎に、マクロブロックアドレス、マクロブロックタイプ、量子化ステップサイズ、動きベクトル、及び、ブロックデータが含まれる。勿論、原画像ストリームの構成はこれに限定されるものではなく、ピクチャデータの縦横の画素数やマクロブロックの大きさによって任意となってもよい。
符号化パラメータは、以下のいずれかとなる。
(1)順方向予測(インター)の動きベクトルの大きさ及び向き
(2)画面内予測(イントラ)ブロックタイプの符号量
(3)量子化(Quantization)ステップのサイズ
マクロブロック選別部12は、所定条件を満たす符号化パラメータを持つ有意なマクロブロックを選別する。ここで、「所定条件」とは、時間的変動が所定以上大きい符号化パラメータとする。マクロブロック毎に、例えば以下のいずれかの所定条件で選別する。
<1>順方向予測の動きベクトルが、所定長以上の大きさで、且つ、消失点(地平線上の収束点)の方向に対して所定角度以上である
<2>画面内予測の符号量が、第1の符号量以上である
<3>量子化ステップサイズが、所定サイズ以下である
図4は、マクロブロック毎の動きベクトルを表す説明図である。
図4(a)は、原映像ストリームに映り込む物体が一定速度で変化している場合を表す。
図4(b)は、原映像ストリームに映り込む物体が急峻に変化した場合を表す。
図4(a)(b)それぞれ、原映像ストリームの画像フレームと、各マクロブロックの動きベクトルとが表されている。
・動きベクトルの方向は、消失点の方向へ向き、時間的な変化が小さい。
・動きベクトルの大きさは、消失点に近いほど小さく、消失点から遠ざかるほど大きい。
例えば自車両に対する前方車両も一定速度で走行している場合、その前方車両が映り込む領域の符号化パラメータは、「所定条件」を満たさない。
・動きベクトルの方向は、消失点と異なる方向へ向き、時間的な変化が大きい。
・動きベクトルの大きさは、消失点に拘わらず大きい
例えば自車両に対する前方車両が急激に車線変更又は減速した場合、その前方車両が映り込む領域の符号化パラメータは、「所定条件」を満たす符号化パラメータとして検出される。
この特性を利用して、原映像ストリームにおける急峻な変化のあった領域を推定することができる。
(a)2フレーム以上前の1フレームを参照して動きベクトルを算出する場合
(b)直前の1フレームを参照して動きベクトルを算出する場合
(c)複数のフレームを参照する場合
ここで、(a)で2フレーム前の1フレームを参照するときの動きベクトルの大きさは、(b)の動きベクトルの大きさと比較して、大凡2倍程度大きくなる。
また、30フレーム/秒を符号化した動きベクトルの大きさは、10フレーム/秒を符号化した動きベクトルの大きさと比較して、大凡3倍程度大きくなる。
そのために、所定条件の判定も、その比較程度に応じて適応的に変更する。
画面内予測されたマクロブロックの符号量は、画面内にエッジ(物体の輪郭)が存在する場合には多くなり、平坦な場合には少なくなる。
即ち、図4(a)の場合、道路領域が平坦であるために、符号量の少ない画面内予測のマクロブロックが多く観測される。一方で、図4(b)の場合、右折しようとしている車両のエッジ部分に、符号量の多い画面内予測のマクロブロックが多く観測される。
この特性を利用して、原映像ストリームにおける物体が存在する領域を推定することができる。
画面内予測されたマクロブロックは、画面内に急峻な変化が生じた場合には多くなり、変化が少ない場合には少なくなる。
即ち、後述する図6左側の場合、画面内の変化が少ないため画面内予測されるマクロブロックは少なく観測される。一方で、図6右側の場合、車両の領域が新たに出現するため画面内予測のマクロブロックが多く観測される。
この特性を利用して、原映像ストリームにおける急峻な変化のあった領域を推定することができる。
適応量子化(adaptive quantization)方式によれば、圧縮効率を高めるために、マクロブロックの量子化ステップサイズが適応的に変更される。原映像ストリームについて、変化の少ない領域では、人間の視覚が敏感であるために、量子化ステップサイズを小さくする。一方で、変化の激しい領域では、人間の視覚が鈍感なために、量子化ステップサイズを大きくする。
即ち、図4(a)の場合、量子化ステップサイズが小さいマクロブロックが多く観測される。一方で、図4(b)の右側の前方車両の車輪部分に、量子化ステップサイズが大きいマクロブロックが多く観測される。
この特性を利用して、原映像ストリームにおける急峻な変化のあった領域を推定することができる。
このように符号化パラメータマップでは、例えば、マクロブロックの動きベクトルの大きさ及び方向、符号量又は量子化ステップサイズに応じた階調の色で、マクロブロックの分布部分を表示することができる。
(2)例えば画面内予測の符号量が多いほど(当該マクロブロックが画面内予測の符号化モード)、濃い階調の色を、そのマクロブロックの分布部分に表示する。
(3)例えばマクロブロックの量子化ステップサイズが小さいほど、濃い階調の色を、そのマクロブロックの分布部分に表示する。
例えば車両内におけるドライブレコーダの設置場所によっては、カメラによって撮影された原映像ストリームに、ダッシュボードのような領域が映り込んでいる場合もある。このような領域が予め固定的であれば、工場出荷時の設定によって、その領域をマスクすることもできる。勿論、GUI(Graphic User Interface)によって、ユーザ自ら設定可能なものであってもよい。
フレームにおける時間的変動が無い領域が、例えば平坦なものである場合、マクロブロックの符号化モードとして「スキップモード」が選択される。このような領域を、符号化パラメータの抽出対象外とすることもできる。例えばダッシュボードの領域は、平坦となっており、例えば画面内予測の符号量も少なくなる。
このように、各マクロブロックについて、所定時間幅における変動状況を観測し、明らかに画面内の他の領域と比べて画面内符号化ブロックの符号量が少なかったり、スキップモードのブロックの出現頻度が高い場合、その領域を削除する。
有意映像ストリーム生成部13は、有意なマクロブロックを持つ符号化パラメータのフレームと時間的に同期した原映像ストリームのフレームを時系列に結合した有意映像ストリームを生成する。
また、有意映像ストリーム生成部13は、符号化パラメータのフレームに同期した原映像ストリームのフレームを時系列に結合したものに加えて、当該符号化パラメータのフレームを時系列に結合したものであってもよい。
「符号化パラメータのフレームに同期した原映像ストリームのフレーム」とは、文字通りであって、原映像ストリームの各フレームを利用したものである。
(1)例えば、原映像ストリームについて、一定速度で変化し、急峻な変化がない場合、画面内に動きが存在し、順方向予測のマクロブロックが多くなる。一方で、画面内予測のマクロブロックが少なくなり、フレーム全体の符号量は低下する傾向となる。例えば自車両のカメラから、一定速度で走行中の周辺車両が映り込む原映像ストリームの場合、フレーム全体の符号量は少なくなる。
例えば毎秒6Mビット程度の固定ビットレートで符号化するH.264では、走行中の原映像ストリームにおけるI(イントラ)フレームの符号量は、500K〜800Kビットで推移する。
この場合、画像内符号化フレームの符号量として、閾値を1Mビットに設定することで、走行/停止の状況を判定することができる。
このように、フレームの符号量を観測することで、走行状況の急峻な変化などを推定することができる(後述する図7参照)。
例えば車両がトンネルへ進入・退出した場合や、集中豪雨や煙で視界が急激に悪化した場合、ドライブレコーダのカメラによって撮影された原映像ストリームについて、フレームの大部分の領域が、画面内予測のマクロブロックとなる傾向がある。
有意映像ストリーム生成部13は、I(イントラ)フレームの符号量が、第2の符号量(例えば1Mビット)以上となるフレームを、当該移動体が停止中であると判定して、有意映像ストリームから除外する。
これによって、有意映像ストリームのフレーム数を削減することができる。
また、有意映像ストリーム生成部13は、有意映像ストリームとして、フレーム毎に、有意なマクロブロックと、これらマクロブロックの分布情報とを含めることも好ましい。これによって、有意映像ストリームにおける各フレームの有意な領域を特定することができる。即ち、有意でない領域におけるマクロブロックを削減することができる。
また、有意なマクロブロックを持つ符号化パラメータのフレームに相当しないGOPは、削除するか、又は、所定割合以上の高い圧縮率で圧縮することができる。
映像ストリーム送信部14は、有意映像ストリーム生成部13から出力された有意映像ストリームを、相手方装置(データセンタ)へ送信する。
また、有意映像ストリームが、符号化パラメータのフレームによって構成されたものである場合、同時に又は別途、その符号化パラメータのフレームに対応する原映像フレームから構成された原映像ストリームを送信するものであってもよい。
更に、有意映像ストリームと共に、フレーム番号及び/又はタイムコード、有意なマクロブロックと、これらマクロブロックの分布情報とを、同期又は非同期に送信するものであってもよい。これによって、データセンタは、有意映像ストリームから、有意なマクロブロックを再生することができる。
これによって、符号化された原映像ストリームから、符号化パラメータを用いて、有意な映像フレーム及び映像領域のみ選別し、データ量全体を削減する。特に、データセンタが物体検出や物体識別を処理する際にも、対象とすべき映像ストリームを限定することができる。
10 原映像ストリーム記憶部
11 符号化パラメータ抽出部
12 マクロブロック選別部
13 有意映像ストリーム生成部
14 映像ストリーム送信部
2 データセンタ
マクロブロック選別手段は、時間的変動が所定以上大きい有意なマクロブロックを選別するために、
所定条件として、マクロブロック毎に、
順方向予測の動きベクトルが、所定長以上の大きさで、且つ、消失点(地平線上の収束点)の方向に対して所定角度以上であるか、
画面内予測の符号量が、第1の符号量以上であるか、又は、
量子化ステップサイズが、所定サイズ以上である
ようにコンピュータを機能させることも好ましい。
マクロブロック選別部12は、所定条件を満たす符号化パラメータを持つ有意なマクロブロックを選別する。ここで、「所定条件」とは、時間的変動が所定以上大きい符号化パラメータとする。マクロブロック毎に、例えば以下のいずれかの所定条件で選別する。
<1>順方向予測の動きベクトルが、所定長以上の大きさで、且つ、消失点(地平線上の収束点)の方向に対して所定角度以上である
<2>画面内予測の符号量が、第1の符号量以上である
<3>量子化ステップサイズが、所定サイズ以上である
(a)2フレーム以上前の1フレームを参照して動きベクトルを算出する場合
(b)直前の1フレームを参照して動きベクトルを算出する場合
(c)複数のフレームを参照する場合
ここで、(a)で2フレーム前の1フレームを参照するときの動きベクトルの大きさは、(b)の動きベクトルの大きさと比較して、2倍程度大きくなる。
また、30フレーム/秒を符号化した動きベクトルの大きさは、10フレーム/秒を符号化した動きベクトルの大きさと比較して、1/3程度になる。
そのために、所定条件の判定も、その比較程度に応じて適応的に変更する。
Claims (14)
- 撮影及び符号化された原映像ストリームから有意映像ストリームを生成する装置に搭載されたコンピュータを機能させるプログラムであって、
原映像ストリームからフレーム毎に各マクロブロックの符号化パラメータを抽出する符号化パラメータ抽出手段と、
所定条件を満たす符号化パラメータを持つ有意なマクロブロックを選別するマクロブロック選別手段と、
前記有意なマクロブロックを持つ符号化パラメータのフレームと時間的に同期した前記原映像ストリームのフレームを時系列に結合した有意映像ストリームを生成する有意映像ストリーム生成手段と
してコンピュータを機能させることを特徴とするプログラム。 - 前記有意映像ストリーム生成手段は、前記符号化パラメータのフレームに同期した前記原映像ストリームのフレームを時系列に結合したものに加えて、当該符号化パラメータのフレームを時系列に結合したものを有意映像ストリームとして生成する
ようにコンピュータを機能させることを特徴とする請求項1に記載のプログラム。 - 前記有意映像ストリーム生成手段は、前記有意映像ストリームとして、フレーム毎に、フレーム番号及び/又はタイムコードを含める
ようにコンピュータを機能させることを特徴とする請求項1又は2に記載のプログラム。 - 前記有意映像ストリーム生成手段は、前記有意映像ストリームとして、フレーム毎に、有意なマクロブロックと、これらマクロブロックの分布情報とを含める
ようにコンピュータを機能させることを特徴とする請求項3に記載のプログラム。 - 前記有意映像ストリーム生成手段は、前記有意映像ストリームとして、前記フレームを含むGOP(Group Of Pictures)単位で含める
ようにコンピュータを機能させることを特徴とする請求項3又は4に記載のプログラム。 - 前記有意なマクロブロックを持つ符号化パラメータのフレームに相当しないGOPは、削除するか、又は、所定割合以上の高い圧縮率で圧縮する
ようにコンピュータを機能させることを特徴とする請求項5に記載のプログラム。 - 前記原映像ストリームは、移動体に搭載されたカメラから撮影されたものであり、
前記有意映像ストリームは、当該カメラから見える周辺物体の中で、急に出現し又は消滅した周辺物体のみが映り込んだものである
ようにコンピュータを機能させることを特徴とする請求項1から6のいずれか1項に記載のプログラム。 - 前記符号化とは、MPEG(Moving Picture Experts Group)に基づくものであり、
前記符号化パラメータは、以下のいずれかとなる
順方向予測(インター)の動きベクトルの大きさ及び向き、
画面内予測(イントラ)の符号量、
又は、
量子化(Quantization)ステップのサイズ
ようにコンピュータを機能させることを特徴とする請求項7に記載のプログラム。 - 前記マクロブロック選別手段は、時間的変動が所定以上大きい有意なマクロブロックを選別するために、
前記所定条件として、マクロブロック毎に、
順方向予測の動きベクトルが、所定長以上の大きさで、且つ、消失点(地平線上の収束点)の方向に対して所定角度以上であるか、
画面内予測の符号量が、第1の符号量以上であるか、又は、
量子化ステップサイズが、所定サイズ以下である
ようにコンピュータを機能させることを特徴とする請求項8に記載のプログラム。 - 前記有意映像ストリーム生成手段は、画面内予測の符号量が、第2の符号量以上となるフレームを、当該移動体が停止中であると判定して、前記有意映像ストリームから除外する
ようにコンピュータを機能させることを特徴とする請求項9に記載のプログラム。 - 前記マクロブロック選別手段は、前記有意なマクロブロックを分布情報に応じて空間方向に接合した符号化パラメータマップを生成する
ようにコンピュータを機能させ、
前記符号化パラメータマップは、前記符号化パラメータが前記所定条件を満たす度合いが高いほど、当該マクロブロックの部分の色合いの階調を濃く表示されたマップである
ようにコンピュータを機能させることを特徴とする請求項1から10のいずれか1項に記載のプログラム。 - 前記原映像ストリームは、符号化されており、
前記符号化パラメータ抽出手段は、前記原映像ストリームを簡易伸張させて、フレーム毎に各マクロブロックの符号化パラメータを抽出する
ようにコンピュータを機能させることを特徴とする請求項1から11のいずれか1項に記載のプログラム。 - 撮影及び符号化された原映像ストリームから有意映像ストリームを生成する装置であって、
原映像ストリームからフレーム毎に各マクロブロックの符号化パラメータを抽出する符号化パラメータ抽出手段と、
所定条件を満たす符号化パラメータを持つ有意なマクロブロックを選別するマクロブロック選別手段と、
前記有意なマクロブロックを持つ符号化パラメータのフレームと時間的に同期した前記原映像ストリームのフレームを時系列に結合した有意映像ストリームを生成する有意映像ストリーム生成手段と
を有することを特徴とする装置。 - 撮影及び符号化された原映像ストリームから有意映像ストリームを生成する装置の映像ストリーム生成方法であって、
前記装置は、
原映像ストリームからフレーム毎に各マクロブロックの符号化パラメータを抽出する第1のステップと、
所定条件を満たす符号化パラメータを持つ有意なマクロブロックを選別する第2のステップと、
前記有意なマクロブロックを持つ符号化パラメータのフレームと時間的に同期した前記原映像ストリームのフレームを時系列に結合した有意映像ストリームを生成する第3のステップと
を実行することを特徴とする装置の映像ストリーム生成方法。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019091895A JP6995083B2 (ja) | 2019-05-15 | 2019-05-15 | 原映像ストリームから有意映像ストリームを生成するプログラム、装置及び方法 |
US17/609,484 US20220321873A1 (en) | 2019-05-15 | 2020-02-12 | Program, device, and method for generating significant video stream from original video stream |
EP20806683.7A EP3972252A4 (en) | 2019-05-15 | 2020-02-12 | PROGRAM, DEVICE AND METHOD FOR GENERATION OF A SIGNIFICANT VIDEO STREAM FROM AN ORIGINAL VIDEO STREAM |
CN202080032994.9A CN113785582A (zh) | 2019-05-15 | 2020-02-12 | 从原影像流生成有用影像流的程序、装置以及方法 |
PCT/JP2020/005285 WO2020230385A1 (ja) | 2019-05-15 | 2020-02-12 | 原映像ストリームから有意映像ストリームを生成するプログラム、装置及び方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019091895A JP6995083B2 (ja) | 2019-05-15 | 2019-05-15 | 原映像ストリームから有意映像ストリームを生成するプログラム、装置及び方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020188368A true JP2020188368A (ja) | 2020-11-19 |
JP6995083B2 JP6995083B2 (ja) | 2022-01-14 |
Family
ID=73223018
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019091895A Active JP6995083B2 (ja) | 2019-05-15 | 2019-05-15 | 原映像ストリームから有意映像ストリームを生成するプログラム、装置及び方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20220321873A1 (ja) |
EP (1) | EP3972252A4 (ja) |
JP (1) | JP6995083B2 (ja) |
CN (1) | CN113785582A (ja) |
WO (1) | WO2020230385A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022180684A1 (ja) * | 2021-02-24 | 2022-09-01 | 日本電気株式会社 | 画像処理装置、画像表示システム、画像処理方法および記録媒体 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117201798B (zh) * | 2023-11-06 | 2024-03-15 | 深圳市翔洲宏科技有限公司 | 一种远程视频监控摄像头信息传输方法及系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2003045070A1 (en) * | 2001-11-19 | 2003-05-30 | Mitsubishi Denki Kabushiki Kaisha | Feature extraction and detection of events and temporal variations in activity in video sequences |
JP2003189242A (ja) * | 2001-12-21 | 2003-07-04 | Matsushita Electric Ind Co Ltd | 映像記録再生装置および再生方法 |
JP2008181324A (ja) * | 2007-01-24 | 2008-08-07 | Fujifilm Corp | 前方監視装置、前方監視プログラム、及び前方監視方法 |
JP2009271758A (ja) * | 2008-05-08 | 2009-11-19 | Denso Corp | 画像認識装置 |
JP2010263500A (ja) * | 2009-05-08 | 2010-11-18 | Fujitsu Ltd | 映像処理システム、撮影装置及び映像処理方法 |
WO2016151978A1 (ja) * | 2015-03-26 | 2016-09-29 | パナソニックIpマネジメント株式会社 | 画像処理装置、運転支援システム及び画像処理方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001333389A (ja) * | 2000-05-17 | 2001-11-30 | Mitsubishi Electric Research Laboratories Inc | ビデオ再生システムおよびビデオ信号処理方法 |
JP5914121B2 (ja) | 2012-04-05 | 2016-05-11 | 矢崎エナジーシステム株式会社 | ドライブレコーダ |
US8994013B2 (en) | 2012-05-18 | 2015-03-31 | Semiconductor Energy Laboratory Co., Ltd. | Light-emitting element, light-emitting device, display device, electronic device, and lighting device |
US9715903B2 (en) * | 2014-06-16 | 2017-07-25 | Qualcomm Incorporated | Detection of action frames of a video stream |
CN105163093B (zh) * | 2015-10-08 | 2018-01-12 | 北京理工大学 | 一种面向avs监控档的压缩域视频摘要提取方法及装置 |
JP6660869B2 (ja) | 2016-11-17 | 2020-03-11 | Kddi株式会社 | 遠隔作業支援システムおよびその作業者端末 |
US11470343B2 (en) * | 2018-08-29 | 2022-10-11 | Intel Corporation | Apparatus and method for feature point tracking using inter-frame prediction |
-
2019
- 2019-05-15 JP JP2019091895A patent/JP6995083B2/ja active Active
-
2020
- 2020-02-12 CN CN202080032994.9A patent/CN113785582A/zh active Pending
- 2020-02-12 US US17/609,484 patent/US20220321873A1/en active Pending
- 2020-02-12 EP EP20806683.7A patent/EP3972252A4/en active Pending
- 2020-02-12 WO PCT/JP2020/005285 patent/WO2020230385A1/ja unknown
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2003045070A1 (en) * | 2001-11-19 | 2003-05-30 | Mitsubishi Denki Kabushiki Kaisha | Feature extraction and detection of events and temporal variations in activity in video sequences |
JP2003189242A (ja) * | 2001-12-21 | 2003-07-04 | Matsushita Electric Ind Co Ltd | 映像記録再生装置および再生方法 |
JP2008181324A (ja) * | 2007-01-24 | 2008-08-07 | Fujifilm Corp | 前方監視装置、前方監視プログラム、及び前方監視方法 |
JP2009271758A (ja) * | 2008-05-08 | 2009-11-19 | Denso Corp | 画像認識装置 |
JP2010263500A (ja) * | 2009-05-08 | 2010-11-18 | Fujitsu Ltd | 映像処理システム、撮影装置及び映像処理方法 |
WO2016151978A1 (ja) * | 2015-03-26 | 2016-09-29 | パナソニックIpマネジメント株式会社 | 画像処理装置、運転支援システム及び画像処理方法 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022180684A1 (ja) * | 2021-02-24 | 2022-09-01 | 日本電気株式会社 | 画像処理装置、画像表示システム、画像処理方法および記録媒体 |
Also Published As
Publication number | Publication date |
---|---|
US20220321873A1 (en) | 2022-10-06 |
EP3972252A1 (en) | 2022-03-23 |
EP3972252A4 (en) | 2023-05-17 |
WO2020230385A1 (ja) | 2020-11-19 |
CN113785582A (zh) | 2021-12-10 |
JP6995083B2 (ja) | 2022-01-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20200327350A1 (en) | System and method for pre-processing images captured by a vehicle | |
US10582196B2 (en) | Generating heat maps using dynamic vision sensor events | |
CN108737837B (zh) | 形成视频流的方法及图像处理单元 | |
JP3363039B2 (ja) | 動画像内の移動物体検出装置 | |
JP6467368B2 (ja) | イベントのビデオシーケンスを生成する方法及びシステム、並びにこうしたシステムを備えるカメラ | |
US5787199A (en) | Apparatus for detecting a foreground region for use in a low bit-rate image signal encoder | |
US20090263021A1 (en) | Monitoring system, monitoring method and program | |
JP2002262296A (ja) | 移動物体検出装置、および画像監視システム | |
CN105338323A (zh) | 一种视频监控方法及装置 | |
JP6995083B2 (ja) | 原映像ストリームから有意映像ストリームを生成するプログラム、装置及び方法 | |
JP7213662B2 (ja) | 画像処理装置、画像処理方法 | |
US11321949B2 (en) | Display control device, display control system, and display control method | |
Hung et al. | A fast algorithm of temporal median filter for background subtraction. | |
US20120281756A1 (en) | Complexity change detection for video transmission system | |
US20110129012A1 (en) | Video Data Compression | |
JP4943586B2 (ja) | 効率的な映像処理のための方法および装置 | |
US20220224918A1 (en) | Video transport system, video transmission device, video reception device, video distribution method, video transmission method, video reception method, and non-transitory computer readable recording medium | |
JP7143263B2 (ja) | 符号化パラメータを用いて対象識別位置を決定する対象識別方法、装置及びプログラム | |
JP7269134B2 (ja) | 映像ストリームに影響した外的要因情報を推定するプログラム、サーバ、システム、端末及び方法 | |
JPH0869597A (ja) | 動きベクトル検出手段を用いた監視装置 | |
KR102264252B1 (ko) | 압축 영상에서의 이동객체 검출방법 및 이를 수행하는 영상 감시 시스템 | |
Cheok et al. | Analytics-modulated coding of surveillance video | |
JP2021043773A (ja) | 符号化パラメータ特徴量を利用した対象識別方法、装置及びプログラム | |
KR101673879B1 (ko) | 영상 분석 기반의 인코딩 장치 및 방법 | |
KR20230089558A (ko) | 영상 전송 장치 및 방법, 그리고 영상 수신 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200204 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210216 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211203 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211214 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6995083 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |