JP2008104181A - センサ支援ビデオ圧縮 - Google Patents

センサ支援ビデオ圧縮 Download PDF

Info

Publication number
JP2008104181A
JP2008104181A JP2007268340A JP2007268340A JP2008104181A JP 2008104181 A JP2008104181 A JP 2008104181A JP 2007268340 A JP2007268340 A JP 2007268340A JP 2007268340 A JP2007268340 A JP 2007268340A JP 2008104181 A JP2008104181 A JP 2008104181A
Authority
JP
Japan
Prior art keywords
video
motion
vehicle
movement
motion vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007268340A
Other languages
English (en)
Other versions
JP5204458B2 (ja
Inventor
Martin Stephan
シュテファン マルティン
Ulrich Mohr
モール ウーリッヒ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Harman Becker Automotive Systems GmbH
Original Assignee
Harman Becker Automotive Systems GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Harman Becker Automotive Systems GmbH filed Critical Harman Becker Automotive Systems GmbH
Publication of JP2008104181A publication Critical patent/JP2008104181A/ja
Application granted granted Critical
Publication of JP5204458B2 publication Critical patent/JP5204458B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/527Global motion vector estimation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/414Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Analysis (AREA)
  • Television Signal Processing For Recording (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】車両におけるビデオ圧縮システムと、対応する方法とを提供する。
【解決手段】車両用、特に自動車用デジタルビデオシステムであって、該ビデオシステムは、該車両に装着されたビデオカメラ120と、該車両の動きの現在の状態を表示する車両動き情報を提供している少なくとも1つのセンサ130〜132と、該車両動き情報に従って、該ビデオカメラ120の視野内の物体の見かけの動きを推定する光学フロー推定ユニットと、該推定された見かけの動きに従って、該ビデオカメラ120によって配信されるビデオデータを圧縮するように適合されたビデオエンコーダ110とを備える。
【選択図】図1

Description

本発明は、ビデオデータ圧縮に関し、特に、自動車用デジタルビデオシステムおよび対応する方法に関する。
(本発明の背景)
デジタルビデオ情報は、次第に増加する多くの進化したドライバ支援システム、ビデオ撮像、モニタ、および乗客娯楽システムが統合されるにつれて、自動車において、ますますユビキタスになってきた。最先端の自動車ネットワーク通信プロトコルは、耐故障性およびリアルタイム性能と対をなした高伝送帯域幅を提供する。車両の様々な電子制御ユニットとアクチュエータとを接続するかさばった配線用ハーネスは、コントローラエリアネットワーク(CAN)またはFlexRayのようなデジタルバスラインによって置換されるようになってきた。一方、マルチメディアアプリケーションは、メディア指向システムトランスポート(MOST)またはFireWire(IEEE1394)ネットワーク化規格に基づく専用バスシステムを介して通信する。
ビデオデータを伝送して、格納するために要求される帯域幅および格納容量の量を削減するために、従来のビデオデータ圧縮技術が使用され得る。これらの技術は、空間的(隣接するピクセル間の類似点)冗長性および時間的(連続するフレーム間の類似点)冗長性を用いて、符号化される必要のある情報量を削減するとともに、統計的符号化スキームを用いて、残っている情報をデータの高圧縮ストリームに変換する。最先端のビデオ圧縮規格に対する著名な例は、MPEG−2およびH.264/AVCである。
ビデオデータ圧縮に対する従来の方法は、以前に符号化されたビデオデータから現在のビデオデータのフレームを予測し、現在のフレームとその予測との間の差のみを符号化する。
図7は、従来のビデオエンコーダのブロック図である。通常、ビデオデータは、ブロックごとをベースに符号化される。この目的のために、断片化ユニット215は、各ビデオ画像を複数のブロックに分割し、次いで、ブロックのそれぞれが、個別に符号化される。減算器220が、入力ビデオデータ210から予測ビデオブロックを減算するために使用される。予測誤差を表すこの差は、データ圧縮ユニット230によって符号化される。データ圧縮ユニット230は、離散余弦変換のような直交変換を適用し、その結果得られる変換係数を定量化し、統計的符号化スキームを用いて、圧縮ビデオデータ290を生成し得る。予測ビデオブロックは、予測ユニット260によって生成される。予測は、ローカルデコーダ240によって提供される以前に符号化されたビデオデータに基づき、ローカルデコーダ240は、データ圧縮ユニット230および減算器220の動作を基本的には逆に行い、予測は、(フレーム)メモリ250によって格納される。
予測は、変化したピクセル値のみを符号化するように、以前のフレームにシンプルに基づき得る。より高度な圧縮方法は、ビデオ画像コンテンツの「モデル」を維持することで、各フレームのより忠実な予測を生成する。いずれの符号化効率の改善も、膨大な計算の代償によってのみ達成され得ることは、明らかである。
図8は、モデルベースのビデオエンコーダの例示的な構成を示す。このエンコーダは、モデルユニット270が入力データのモデルを維持し、このモデルが予測ユニット260によって用いられ、入力ビデオデータ210の改善された予測を生成する点で、図7のエンコーダとは異なる。ほとんどの場合、入力データのモデルは、静的でなく、そのパラメータは、現在の入力ビデオデータ210に従って、モデルユニット270によりコンスタントに更新される必要がある。圧縮ビデオデータ290をデコードするために、予測は、デコーダによって再生可能でなくてはならない。したがって、予測ユニット260にパスされるモデルパラメータもまた、圧縮ビデオデータ290に含まれるようにするために、データ圧縮ユニット230に供給される必要がある。図8のモデルベースのビデオエンコーダの他の動作はいずれも、図7のエンコーダと同様であり、同様の機能的なユニットは、同様の参照番号によって示されるので、それらの詳細な説明は、省略される。
動きの推定および補償は、モデルベースのビデオ圧縮方法に対する一例である。この方法は、各ビデオ画像を複数のブロックに分割する。各ブロックに対して、画像の対応する部分の見かけの動きを示す動きベクトルが、決定される。次いで、現在のフレームが、以前のフレームと決定された動きベクトルとに基づいて、予測される。図8に照らし合わせると、したがって、モデルパラメータは、決定された動きベクトルからなり、モデルユニット270は、動き推定ユニットを提供する。
動きベクトルを決定するステップが、図9に示される。現在のビデオ画像920にある物体930が、以前のビデオ画像910に対して動いた。対応する動きベクトルを決定するために、以前のビデオ画像のブロック950がシフトされ、現在のビデオ画像の内容と比較される。現在のビデオ画像と最適に合致するシフト位置は、次いで、このブロックに対する動きベクトル960を定義するために使用される。
動きベクトルの決定は、計算の面で、非常に高価である。なぜなら、比較するステップにおいて、多数の異なるピクセル差の値が、計算される必要があるためである。この結果、ハードウェアがコスト高になるか、あるいはリアルタイムでない遅い処理になるかのいずれかである。
(発明の概要)
本発明の目的は、車両におけるビデオ圧縮システムと、対応する方法とを提供することであり、このシステムおよび方法において、動きベクトルがより効率的に決定される。
上記は、独立請求項に示される特徴によって達成される。好ましい実施形態は、従属請求項に係る要旨である。
本発明の特定のアプローチは、ビデオカメラが装着された車両の動きの現在の状態に関する知覚情報を利用して、カメラ視野内の光学フローを推定することである。これは、ビデオデータ圧縮に要する動きベクトルが、より効率的に決定され得るようにするためである。
本発明の第一の局面に従うと、車両用、特に自動車用デジタルビデオシステムが、提供される。該デジタルビデオシステムは、該車両に装着されたビデオカメラと、該車両の動きの現在状態を示す車両動き情報を提供している少なくとも1つのセンサと、該車両動き情報に従って、該ビデオカメラの視野内の物体の見かけの動きを推定する光学フロー推定ユニットと、該推定された見かけの動きに従って、該ビデオカメラによって配信されるビデオデータを圧縮するように適合されたビデオエンコーダとを備える。
本発明の別の局面に従うと、車両用、特に自動車用のビデオ圧縮方法が提供される。該車両は、該車両に装着されたビデオカメラと、該車両の動きの現在の状態を示す車両動き情報を提供している少なくとも1つのセンサとを備える。該方法は、該車両動き情報に従って、該ビデオカメラの視野内の物体の見かけの動きを推定するステップと、該推定された見かけの動きに従って、該ビデオカメラによって配信されるビデオデータを圧縮するステップとを包含する。
好ましくは、上記光学フロー推定ユニットは、上記少なくとも1つのセンサによって提供された車両動き情報から、上記車両の動きの現在の状態を再構成する動き再構成手段をさらに備える。この方法で、上記ビデオカメラの視野内の物体の上記見かけの動きは、単純な幾何学的計算によって、該車両の該再構成された動きの現在の状態に従って決定され得る。
上記光学フロー推定ユニットは、上記推定された見かけの動きに関する情報をフィールドのズームインタイプまたはズームアウトタイプのような一つのタイプのフローフィールドを、あるいは単なる左/右への動きを示す定性的情報の形式で提供し得る。この情報は、上記圧縮処理をスピードアップするために、上記ビデオエンコーダによって、即座に考慮され得る。
代替として、上記光学フロー推定ユニットは、上記推定された見かけの動きに関する情報をベクトルフィールド表現の形式で提供し得る。この方法で、物体の見かけの動きは、上記カメラの視野内の物体の位置によって、定量的に記述され得る。したがって、たとえ、視野の一部にある物体の見かけの動きが、他部にある物体の見かけの動きとは異なっている場合でさえも、動きベクトルを決定するための最適な開始値またはサーチ範囲が、設定され得る。
好ましくは、上記ビデオエンコーダは、後続のビデオ画像内に動きを示す動きベクトルを決定するように適合された動き推定ユニットであって、該動きベクトルは、上記カメラの視野内の物体の上記推定された見かけの動きに従って決定される、動き推定ユニットと、上記ビデオデータと該決定された動きベクトルから予測されるビデオ画像との差を符号化するように適合された予測符号化ユニットとを備える。この方法で、該カメラによって配信されたビデオデータは、動きの推定および補償のスキームに基づいて圧縮され得、その一方で、該動きベクトルを決定するための計算努力は、著しく削減される。
好ましくは、上記動き推定ユニットは、所定のサーチ範囲の可能な動きベクトルをサーチすることによって、上記動きベクトルを決定している。このことによって、例えば、センサによって提供された符号化要求および利用可能な追加の情報に従って、サーチ範囲の適応設定が可能になり、その結果、動き推定アルゴリズムの効率が、改善され得る。
好ましくは、上記動き推定ユニットは、上記推定された見かけの動きに従って上記動きベクトルをサーチするために、上記サーチ範囲、または上記開始値を設定している。この方法で、ビデオ画像全体がサーチされなくてはならない従来の方法に比べて、正しい動きベクトルが、かなりより迅速に見出され得る。さらに、この結果得られた動きベクトルの精度は、反復アルゴリズムが実際の動きの最適な記述を提供する動きベクトルに収束することを保証することによって改善され得る。
好ましくは、上記ビデオエンコーダは、ビデオ画像をブロックに区分しているブロッキングデバイスをさらに備え、該ビデオ画像内の該ブロックの上記推定された見かけの動きおよび位置に従って、上記動き推定ユニットは、該ブロックのそれぞれに対する動きベクトルを決定している。この方法で、入力ビデオデータは、従来のビデオ圧縮規格に従ってブロックごとに符号化され得る。さらに、このビデオ画像の異なる部分における物体の異なる見かけの動きは、例えば、この光学フローのベクトルフィールド表現に従うことを考慮に入れ得る。この方法で、動きベクトルを決定するための最適な開始値が、このブロックの動きベクトルを決定するためのベースとして、ベクトルフィールドの適切なベクトルをビデオ画像内の各ブロックに対して選択することによって選ばれ得る。
好ましくは、上記ビデオエンコーダは、モーションピクチャエキスパートグループ(MPEG)によって推奨される規格のいずれかに従って、上記ビデオデータを圧縮している。符号化規格に対する特定の例は、MPEG−2およびH.264/AVC(MPEG−4)である。これによって、例えば、既存のデコーダハードウェアおよび/またはレコーダハードウェアとの互換性が可能になる。
好ましくは、上記少なくとも1つのセンサは、タコメータ、加速度計、ステアリングホイールの角度センサ、距離センサ、ジャイロスコープ、羅針盤、およびGPS受信機のうちのいずれかである。これらのセンサによって提供される情報によって、車両の動きの状態を精度良く再構成することが可能になり、したがって、カメラ視野内の物体の見かけの動きを精度良く推定することが可能になる。さらに、これらのセンサは、それでも従来の車両にも存在し得、対応する情報は、車両のデジタル通信システム内で、即座に利用可能となる。
好ましくは、上記車両動き情報は、速度、動き方向、直線加速度、および半径方向加速度のうちの少なくとも1つを備える。この方法で、光学フローは、容易に計算され得る。
好ましくは、デジタルビデオシステムは、上記少なくとも1つのセンサと上記ビデオエンコーダとを接続するためのデジタル通信バスラインをさらに備える。接続はまた、制御バス(CAN/FlexRay)およびマルチメディアバス(メディア指向システムトランスポート、MOST)のような2つの異なるバスシステムを接続するゲートウェイによっても仲介され得る。この方法によって、センサ情報は、かさばった配線用ハーネスを必要とすることなく、ビデオエンコーダに配信され得る。このシステムは、既存の通信バスインフラストラクチャの利点を利用し得る。
好ましくは、上記デジタルビデオシステムは、上記デジタル通信バスラインを介して、上記ビデオエンコーダに接続され、上記ビデオデータをデコードして、表示および/または記録する表示デバイスおよび/または記録デバイスをさらに備える。これらの手段によって、撮影されたビデオ画像は、即座に記録および表示され得る。さらに、事前に記録されたビデオデータも再生され得、例えば、娯楽目的で、1つ以上のリモートな表示デバイスに配信され得る。
本発明は、さらに、以下の手段を提供する。
(項目1)
車両用、特に自動車用デジタルビデオシステムであって、該ビデオシステムは、
該車両に装着されたビデオカメラ(120)と、
該車両の動きの現在の状態を示す車両動き情報を提供している少なくとも1つのセンサ(130〜132)と、
該車両動き情報に従って、該ビデオカメラ(120)の視野内の物体の見かけの動きを推定する光学フロー推定ユニット(285)と、
該推定された見かけの動きに従って、該ビデオカメラ(120)によって配信されたビデオデータを圧縮するように適合されたビデオエンコーダ(110)と
を備える、デジタルビデオシステム。
(項目2)
上記光学フロー推定ユニット(285)は、上記少なくとも1つのセンサ(130〜132)によって提供された車両動き情報から、上記車両の動きの現在の状態を再構成する動き再構成手段をさらに備え、上記ビデオカメラ(120)の視野内の物体の上記見かけの動きは、該車両の該再構成された動きの現在の状態に従って、決定される、項目1に記載のデジタルビデオシステム。
(項目3)
上記光学フロー推定ユニット(285)は、上記推定された見かけの動きに関する情報を一つのタイプのフローフィールドを示す定性的情報の形式で提供している、項目1または項目2に記載のデジタルビデオシステム。
(項目4)
上記光学フロー推定ユニット(285)は、上記推定された見かけの動きに関する情報をベクトルフィールド表現の形式で提供している、項目1または項目2に記載のデジタルビデオシステム。
(項目5)
上記ビデオエンコーダ(110)は、
後続のビデオ画像内に動きを示す動きベクトルを決定するように適合された動き推定ユニット(270)であって、該動きベクトルは、上記カメラの視野内の物体の上記推定された見かけの動きに従って決定される、動き推定ユニット(270)と、
上記ビデオデータと、該決定された動きベクトルから予測されるビデオ画像との間の差を符号化するように適合された予測符号化ユニットと
を備える、項目1〜項目4のいずれか1項に記載のデジタルビデオシステム。
(項目6)
上記動き推定ユニット(270)は、可能な動きベクトルの所定のサーチ範囲をサーチすることによって、上記動きベクトルを決定している、項目5に記載のデジタルビデオシステム。
(項目7)
上記動き推定ユニット(270)は、上記推定された見かけの動きに従って、上記サーチ範囲を設定している、項目6に記載のデジタルビデオシステム。
(項目8)
上記動き推定ユニット(270)は、上記推定された見かけの動きに従って、上記動きベクトルをサーチする開始値を設定している、項目5〜項目7のいずれか1項に記載のデジタルビデオシステム。
(項目9)
上記ビデオエンコーダ(110)は、ビデオ画像をブロックに区分しているブロッキングデバイスをさらに備え、該ビデオ画像内の該ブロックの上記推定された見かけの動きおよび位置に従って、上記動き推定ユニット(270)は、該ブロックのそれぞれに対する動きベクトルを決定している、項目5〜項目8のいずれか1項に記載のデジタルビデオシステム。
(項目10)
上記ビデオエンコーダ(110)は、MPEG規格のいずれかに従って、上記ビデオデータを圧縮している、項目1〜項目9のいずれか1項に記載のデジタルビデオシステム。
(項目11)
上記少なくとも1つのセンサ(130〜132)は、タコメータ、加速度計、ステアリングホイールの角度センサ、距離センサ、ジャイロスコープ、羅針盤、およびGPS受信機のうちのいずれかである、項目1〜項目10のいずれか1項に記載のデジタルビデオシステム。
(項目12)
上記車両動き情報は、速度、動き方向、直線加速度、および半径方向加速度のうちの少なくとも1つを備える、項目1〜項目11のいずれか1項に記載のデジタルビデオシステム。
(項目13)
上記少なくとも1つのセンサ(130〜132)と上記ビデオエンコーダ(110)とを接続するためのデジタル通信バスラインをさらに備える、項目1〜項目12のいずれか1項に記載のデジタルビデオシステム。
(項目14)
上記少なくとも1つのセンサ(130〜132)と上記ビデオエンコーダ(110)とを接続するためのゲートウェイをさらに備える、項目13に記載のデジタルビデオシステム。
(項目15)
上記デジタル通信バスラインを介して上記ビデオエンコーダ(110)に接続され、上記圧縮ビデオデータをデコードして表示するビデオデコーダおよび表示デバイスをさらに備える、項目13または項目14に記載のデジタルビデオシステム。
(項目16)
上記デジタル通信バスラインを介して上記ビデオエンコーダ(110)に接続され、上記圧縮ビデオデータを記録する記録デバイスをさらに備える、項目13〜項目15のいずれか1項に記載のデジタルビデオシステム。
(項目17)
車両用、特に自動車用のビデオ圧縮方法であって、
該車両は、該車両に装着されたビデオカメラ(120)と、該車両の動きの現在の状態を示す車両動き情報を提供している少なくとも1つのセンサ(130〜132)とを備え、該方法は、
該車両動き情報に従って、該ビデオカメラ(120)の視野内の物体の見かけの動きを推定するステップ(630)と、
該推定された見かけの動きに従って、該ビデオカメラ(120)によって配信されたビデオデータを圧縮するステップ(640、650、660)と
を包含する、ビデオ圧縮方法。
(項目18)
上記少なくとも1つのセンサ(130〜132)によって提供された車両動き情報から、上記車両の動きの現在の状態を再構成するステップ(620)をさらに包含し、
該車両の該再構成された動きの現在の状態に従って、上記推定するステップは、実行される、項目17に記載のビデオ圧縮方法。
(項目19)
上記推定するステップ(630)は、上記推定された見かけの動きに関する情報を一種のフローフィールドを示す定性的情報の形式で提供している、項目17または項目18に記載のビデオ圧縮方法。
(項目20)
上記推定するステップ(630)は、上記推定された見かけの動きに関する情報をベクトルフィールド表現の形式で提供している、項目17または項目18に記載のビデオ圧縮方法。
(項目21)
上記圧縮するステップ(640、650、660)は、
上記カメラの視野内の物体の上記推定された見かけの動きに従って、後続のビデオ画像内に動きを示す動きベクトルを決定するステップ(640)と、
上記ビデオデータと、該決定された動きベクトルから予測されるビデオ画像との間の差を符号化するステップ(650、660)と
をさらに包含する、項目17〜項目20のいずれか1項に記載のビデオ圧縮方法。
(項目22)
上記決定するステップ(640)は、可能な動きベクトルの所定のサーチ範囲をサーチすることによって、上記動きベクトルを決定している、項目21に記載のビデオ圧縮方法。
(項目23)
上記決定するステップ(640)は、上記推定された見かけの動きに従って、上記サーチ範囲を設定している、項目22に記載のビデオ圧縮方法。
(項目24)
上記決定するステップ(640)は、上記推定された見かけの動きに従って、上記動きベクトルをサーチする開始値を設定している、項目21〜項目23のいずれか1項に記載のビデオ圧縮方法。
(項目25)
上記圧縮するステップ(640、650、660)は、ビデオ画像をブロックに区分するステップをさらに包含し、該ビデオ画像内の該ブロックの上記推定された見かけの動きおよび位置に従って、上記決定するステップ(640)は、該ブロックのそれぞれに対する動きベクトルを決定している、項目21〜項目24のいずれか1項に記載のビデオ圧縮方法。
(項目26)
上記圧縮するステップ(640、650、660)は、MPEG規格のいずれかに従って、上記ビデオデータを圧縮している、項目17〜項目25のいずれか1項に記載のビデオ圧縮方法。
(項目27)
上記車両動き情報は、速度、動き方向、直線加速度、および半径方向加速度のうちの少なくとも1つを備える、項目17〜項目26のいずれか1項に記載のビデオ圧縮方法。
(摘要)
本発明は、車両において、ビデオ圧縮するための装置と、対応する方法とに関する。様々なセンサによって提供される車両動き情報は、車両の動きの現在の状態を再構成して、カメラ視野内の光学フローを推定するために使用される。推定された光学フローは、ビデオエンコーダの符号化効率を改善するために使用される。特に、動き補償に基づく符号化において、ビデオ画像内の物体の見かけの動きを記述する動きベクトルは、推定された光学フローを考慮に入れることで、より効率的に決定され得る。
本発明の上記および他の目的および特徴は、添付図面とともに与えられる以下の説明および好ましい実施形態からより明確になる。
(詳細な説明)
図1は、本発明に従うビデオシステム100の例示的な実施形態を示す。車両において、コントローラエリアネットワーク(CAN)バスまたはFlexRayバスのようなデジタルバスライン142は、様々な電気制御ユニット、アクチュエータ(図示せず)、センサ130〜132などを接続するために使用される。一方、記録媒体165に/からビデオデータを記録/再生するためのビデオエンコーダ110、ビデオデコーダ150、および/または記録媒体のようなマルチメディアコンポーネントは、MOST(メディア指向システムトランスポート)またはFireWire(IEEE1394)ネットワーク化規格に従って、専用マルチメディアバス141によって通信する。情報は、制御バス142とマルチメディアバス141とを相互接続するゲートウェイ145を介して、これら2つのサブシステムの間で交換され得る。ビデオエンコーダ110に直接接続されるビデオカメラ120は、車両に装着され、例えば、車両の前または後ろのエリアから画像を提供する。このシステムは、ビデオデコーダ150に接続された表示ユニット155をさらに備え得る。
ビデオエンコーダ110は、カメラからビデオ信号を受信し、そのビデオ信号を圧縮し、マルチメディアバス141に圧縮ビデオデータを出力する。ビデオエンコーダはまた、制御バス142およびゲートウェイ145を介して、様々なセンサ130〜132によって提供される情報を受信する。ビデオエンコーダはビデオデータ圧縮に要求される動きベクトルの決定をスピードアップするために、例えば、受信したセンサ情報から車両の動きの現在の状態を再構成し得、この情報を用い得る。
ビデオデコーダ150は、マルチメディアバス141を介して、例えば、ビデオエンコーダ110または格納デバイス160から圧縮ビデオデータを受信し、その圧縮ビデオデータをデコードし、対応するビデオ信号を表示ユニット155に供給する。
格納デバイス160は、マルチメディア141を介してビデオエンコーダ110から圧縮ビデオデータを受信し、磁気テープ、ハードディスク、または光ディスクのような記録媒体165に受信データを録音する。格納デバイス160はまた、記録媒体からビデオデータを再生するためにも使用され得、この再生ビデオデータを表示目的用のビデオデコーダ150に送信するために、この再生ビデオデータを通信バスに出力し得る。
本発明に従うビデオシステム100によって、幅広い範囲のアプリケーションが可能になる。例えば、車両の後方に装着されたカメラによって撮られたビデオ情報は、バックして駐車スペースに入れる運転手を助けるために、ダッシュボードに装着されたディスプレイに送信され得る。車両の前方に装着されたカメラによって撮られたビデオ情報は、後の解析または実行(prosecution)用に記録されるために、格納デバイスに送信され得る。記録されたビデオデータはまた、再生され得て、ディスプレイ155上で即座にプレイバックするために、ビデオデコーダ155に送信され得る。最後に、市販のDVDからの映画のような事前に記録されたビデオデータは、再生され得、マルチメディアバス141を介して、乗客の娯楽のために配置された1つ以上のビデオデコーダ/ディスプレイユニット150、155に送信され得る。
図2は、本発明の実施形態に従うビデオエンコーダのブロック図である。ビデオデータ210は、通常、断片化ユニット215によって、複数のブロックに分割される。各ブロックは、次いで、予測ユニット260によって生成される予測ビデオ画像を減算するために、減算器220に供給される。予測誤差に対応する減算器の出力は、次いで、データ圧縮ユニット230に供給される。データ圧縮ユニット230は、圧縮ビデオデータ290を生成するために、直交変換、量子化、および可変長符号化を含む従来のデータ圧縮方法を適用し得る。予測ユニットは、メモリユニット250に格納された以前に符号化されたビデオブロックと、モデルユニット270によって提供された画像コンテンツの内部モデルとに基づいて、現在のビデオブロックを予測している。ローカルデコーダ240は、後にデコーダによって再構成される際に、画像のリファレンスコピーを提供するようにするために、データ圧縮ユニットおよび減算器によって実行された動作を基本的に逆に行う。モデルユニットは、モデルを入力ビデオデータ210と比較することと、光学フロー推定ユニット285からの光学フロー情報を適用することとによって、モデルをコンスタントに更新した状態で保つ。光学フロー推定ユニット285は、センサ130〜132によって提供された情報280から車両の動きの現在の状態を再構成する。動きの現在の状態と既知のカメラパラメータとに基づいて、光学フロー推定ユニット285は、光学フローを推定し、次いで、その光学フローは、モデルユニット270に供給される。ビデオフレームを予測するために使用されるモデルの現在の状態を特徴付けるパラメータもまた、圧縮ビデオデータ290に含まれるようにするために、データ圧縮ユニット230に供給される。
本発明の一実施形態に従うと、モデルユニットおよび予測ユニットは、連続するビデオ画像間の時間的相関関係を減らすために、動きの推定/補償技術を使用し得る。この目的のために、各ビデオ画像は、複数のブロックに分割され、各ブロック内の物体の見かけの動きを示す動きベクトルが決定され、ビデオフレームは、決定された動きベクトルに従って予測される。この場合、モデルパラメータは、動きベクトルの一式全体を備える。
しかしながら、本発明は、動きの推定/補償に基づくビデオエンコーダに限定されない。その代わりに、ビデオ画像を予測する他のモデルも、パターン認識に基づくモデルを含んで使用され得る。パターン認識モデルにおいて、他の車両、路面標識、交通標識などの物体も認識され、追跡される。
図3Aは、車両に装着されたビデオカメラによって撮られたビデオ画像を示す。ビデオカメラは、車両の前方のエリアに向けられており、このため、画像の左部分にある物体が画像の左下に向かって動き、右部分にある物体が右下に向かって動くようになる(図3Aの矢印)。
図3Bは、図3Aと同じビデオカメラによって撮られたビデオ画像を示すが、車両が右手に曲がるのに追随している。この場合、ビデオ画像における物体の見かけの動きは、車両が真っ直ぐに進んでいるときと異なる。
より一般的には、ビデオ画像における物体の見かけの動きは、その物体自身の固有の動きまたは距離を除くと、車両の動きの現在の状態に依存し、特に、車両の速度と進行方向に依存する。カメラの焦点距離および視野方向のような他のパラメータもまた、物体の見かけの動きを推定するために考慮されなくてはならない。しかしながら、これらのパラメータは、通常、固定され、既知であるものと考えられる。
したがって、車両の動きの現在の状態および関連カメラパラメータが、既知の場合、カメラ視野内の物体の見かけの動きに関する結論は、導き出せ得る。本発明の特にアプローチすることは、車両の動きの現在の状態に関する知覚情報を利用することであり、これは、ビデオデータ圧縮に要する動きベクトルのようなモデルパラメータの決定をスピードアップするためである。
車両の現在状態に関する情報は、複数のセンサによって提供され得、複数のセンサは、タコメータ、ステアリングホイールに取り付けられた角度センサなどのような任意の従来の車両のパーツか、あるいは加速度計、ジャイロスコープ、GPS受信機などのような追加センサかのいずれかである。
これらのセンサのうちの少なくとも1つによって提供される情報から、車両の動きの現在の状態が、速度、進行方向、直線加速度、および半径方向加速度の点について、再構成され得る。利用可能なセンサ情報が、車両の動きの現在の状態を完全に再構成できない場合、速度および進行方向のような最も重要なパラメータは、残りのパラメータがデフォルト値、例えば、ゼロ加速度によって置換される間に、導出され得る。
このようにして決定された車両の動きの現在の状態に基づいて、カメラ視野内の光学フローは、シンプルな幾何学的条件と、そのカメラ視野内の物体の距離および/または固有の動きに関する幾つかの仮定とを用いることによって推定され得る。カメラのフレームレートに依存して、視野内の物体のフレームごとの実際の変位(displacement)は、推定され得る。この情報は、さらに詳しく以下に説明されるようなビデオ圧縮をスピードアップするために使用され得る。
例えば、車両が、速度1m/sで駐車場にバックで入る場合、カメラ視野内の任意の静止物体も、v=1m/sで動く。カメラの所与のサンプルレートは、例えば、f=毎秒25画像に対して、2つの連続するビデオ画像に対する物体の変位sが計算され得、すなわち、s=v/f=40mmである。カメラの視野方向および焦点長さを与えると、光学フローと、それゆえビデオ画像内の物体の見かけの動きが導出され得る。
動きの現在の状態に関する情報が不完全な場合、光学フローフィールドの定量的計算は、可能でないこともあり得る。しかしながら、現在の動き情報に関する限られた情報だけでも、カメラ視野内の物体の期待される見かけの動きに関する有効な結論を導出するために使用され得る。
例えば、ステアリングホイールの角度センサが、右への曲がりを示す場合、進行方向を見るカメラによって記録された物体は、左に動くように見え、またその逆もしかりであると、結論付けられ得る。ギアシフトに取り付けられたセンサは、車両が後方に向かうことを示す場合、車の後方に取り付けられた駐車支援カメラによって記録された物体は、カメラに近づいていると結論し得る。したがって、画像の端に向かって動く(ズームイン)するように見え、車両が後方に向かわない場合、画像の中心に向かって動く(ズームアウト)するように見える。光学フローフィールドに関する定性的情報の任意のこのような形式は、さらに詳しく以下に説明されるようなビデオ圧縮をスピードアップするために使用され得る。
光学フローの再構成はまた、車両の動きの状態に間接的に関連するセンサ情報によって支援され得る。例えば、超音波またはレーダに基づく距離センサは、例えば、バックして駐車スペースに入るとき、車両の速度を測定するために使用され得る。これらのセンサはまた、相対速度、例えば、近づいてくる車両の相対速度を測定するためにも使用され得る。この情報は、当初の距離情報とともに、カメラ視野内の物体の距離および固有の動きに関する基礎をなす仮定を実体化することによって、光学フローフィールドのより正確な推定を提供するために使用され得る。
本発明の一実施形態に従うと、ビデオ画像は、複数のブロックに分割される。各ブロックに対して、ブロックの見かけの動きを記述するベクトルは、車両の動きの現在の状態に従って決定される。これらのベクトルの全体は、カメラの動きによって生成される光学フローフィールドの表現を形成する。このような光学フローフィールドの例は、真っ直ぐの動きおよび右手に曲がる動きに対して、それぞれ図4Aおよび図4Bに示される。
図5は、動きベクトルを決定する従来の方法と、本発明の一実施形態に従う方法との相違を示す。図5Aに示されるように、動きベクトルは、現在のビデオ画像と最適に合致するブロック平行移動(translation)をサーチするために、以前のビデオ画像の現在のブロック550を中心とするサーチ範囲510を定義することによって、従来のように決定される。アプリオリな情報は、画像物体530の見かけの動きに利用可能でないので、サーチ範囲は、物体の全ての可能な動きをカバーするように、十分大きくなる必要がある。したがって、多数の候補平行移動が、評価されなくてはならず、ピクセル差の値が、たとえ大きな数であっても、計算されなくてはならない。
本発明に従うと、カメラの動きの現在の状態は、光学フローフィールドが、光学フロー推定ユニット285によって推定され得るようにするために、センサ情報280から導出され得る。ブロックの推定された光学フローベクトル570に基づいて、このブロック内の画像物体の実際の見かけの動きが、推定され得る。これは、図5Bに示されるように、サーチ範囲511は、推定される見かけの動き570に従って、このように定義され得る。画像物体530の実際の見かけの動きは、この推定からわずか(marginally)だけ逸脱することが期待され得、サーチ範囲は、推定570を中心とし得、より重要なことに、この範囲は、従来方法よりもかなり小さいこともあり得る。したがって、わずかの数の候補平行移動のみが、評価されなくてはならず、対応するピクセル差の値の小さな数のみが、計算されなければならない。これは、直接的に、エンコーダの性能が増加したことを意味する。このことによって、より安価なハードウェアコンポーネントから構築され得る。
たとえ、推定された光学フローフィールドに関する限られた定性的情報のみしか利用可能でない場合でも、サーチ範囲511は、計算効率の観点で、同様の利点を達成するために、設定され得る。例えば、車が右手に曲がることを採択するので、物体が、左側に動くように知られている場合、従来のサーチ範囲510は、左半分のみをサーチするために、左半分と右半分とに分かれ得る。同じ利点はまた、光学フローが、例えば、車両の進行方向に関する情報に依存するズームインタイプまたはズームアウトタイプのフローフィールドであることが既知である場合、実現され得る。これらの場合のいずれにおいても、動きベクトルを決定するための計算の努力は、著しく減少され得る。
動きベクトルを決定するための代替の方法として、勾配ベースの方法のような任意の従来の非線形最適化アルゴリズムが、使用され得る。この方法に従うと、以前のビデオ画像の平行移動されたブロックと現在のビデオ画像のブロックとのピクセル差の絶対値の和の勾配を計算することと、ピクセル差の絶対値の和が最小になるまで、計算された勾配に基づいて平行移動を反復調整することとによって、最適平行移動が見出される。
任意の反復方法において、最終結果の精度と収束の速度とは、開始値にクリティカルに依存し得る。動きベクトルを決定する場合、従来の方法は、開始値として、ゼロ平行移動か、あるいは先行する一対のビデオ画像のために決定された動きベクトルのいずれかを使用し得る。しかしながら、本発明の実施形態に従うと、動きベクトルを反復決定するための改善された開始値は、センサデータ280に基づいて定義され得る。より具体的には、センサ情報280に従って計算された光学フローフィールドに基づく見かけの動きの推定は、改善された開始値として使用され得る。この方法で、実際の動きベクトルを見出すために要求される反復回数は、さらに減少され得る。
代替として、特定の開始ベクトルから従来の方法によって実際の動きベクトルを決定する代わりに、以前に決定された動きベクトルは、センサ情報に従って校正され得る。例えば、センサ情報が、直線加速度および/または半径方向加速度を示す場合、以前に決定された動きベクトルの変化は、予測され得る。この方法で、実際の動きベクトルを見出すために要求される反復回数は、例えば、予測される動きベクトルは、従来の方法に対する開始値として使用される場合、さらに減少され得る。
一部の場合において、予測された動きベクトルが、反復またはサーチアルゴリズムの結果の代わりに、直接使用される場合、従来の反復またはサーチが、全く必要でないことすらあり得る。より具体的には、モデルユニット270は、そのモデル、すなわち、動きベクトルを、ビデオ画像の所定の数ごとに1回ずつのみ、ビデオデータ210に基づく従来の方法を適用することによってキャリブレーションし得る。その間に、センサデータ280のみに基づいて、他のビデオ画像に対するそのモデルを更新する。この方法で、動きベクトルを決定する計算コストは、またさらに削減され得る。
例えば、加速度センサは、車両の動きの状態に対して変化を示さない場合、動きベクトルのその同じ設定は、次のビデオ画像を予測するために使用され得る。一方、特定のセンサによって報告される車両の動きの状態に対する変化は、次のビデオ画像を予測する前に、現在の一式の動きベクトルを更新するために使用され得る。例えば、線形加速度または減速度は、動きベクトルに対するスケールファクタに平行移動されるだけである。
車両の動きの状態およびその変化が、速度および加速度のベクトル値パラメータの観点で完全に知られていない場合ですら、それにも関わらず、実際の動きベクトルの従来の反復またはサーチに対する改善された開始点を得るために、利用可能な情報は、動きベクトルを更新するために使用され得る。例えば、直線加速度のみが測定され得る場合、動きベクトルはそれに従ってスケーリングされ得、スケーリングされた動きベクトルで開始した従来の反復によって、精緻化され得る。この方法で、次のビデオ画像を予測するために要求される実際の動きベクトルは、より精度良く、より効率的に決定され得る。
図6は、本発明の一実施形態に従うセンサ支援ビデオ圧縮に対する方法を示す流れ図である。本方法は、2つの独立なステップ600およびステップ610で、入力ビデオデータおよびセンサ情報を受信する。センサ情報は、ステップ620で、車両の動きの現在の状態を再構成するために使用される。車両の適切な動きに関する情報と、視野方向、焦点長さ、およびフレームレートを含む既知のカメラパラメータに関する情報に基づいて、カメラの視野内の物体の見かけの動きを示す光学フローフィールドは、推定され得る。この推定は、ベクトルフィールド表現の意味で定量的なものであるか、例えば、ベクトルフィールドのタイプに関する情報を提供する定性的なものであるかのいずれかである。
推定された光学フローフィールドは、次いで、ステップ640で使用され、動き補償のために要求されるベクトルを効率的に決定する。この目的のために、推定された光学フローフィールドは、動きベクトルを反復して決定するための開始点として使用され、制約されたサーチ範囲を定義し得るか、あるいは前述のように、以前に決定された動きベクトルを更新し得る。このようにして決定された動きベクトルに基づいて、現在のビデオ画像は、ステップ650で予測され得る。ステップ660で、予測誤差および動きベクトルは、符号化され、こうして、ステップ670で、最終的に圧縮ビデオデータを出力する。
本発明は、動きの推定および補償に基づくビデオ圧縮と関連して、大部分が記載されてきた。しかしながら、本発明は、他のモデルベースのビデオエンコーダにもまた、適用され得る。例えば、車両、路面標識、交通標識などのような物体を認識して、追跡するためのモデルユニット270を有するビデオエンコーダにおいて、全く同じ原理が、上述のように適用され得る。特に、物体の動き情報は、動きベクトルのコンテキストの中で、上述されたように、センサデータに従って、決定され得、更新され得る。この方法で、物体を認識し、各ビデオ画像におけるその動きの状態を計算するコストは、著しく削減され得る。
要約すると、本発明は、車両におけるビデオ圧縮のための装置および対応する方法に関する。様々なセンサによって提供される車両の動き情報は、その車両の動きの現在の状態を再構成して、カメラ視野内の光学フローを推定するために使用される。推定された光学フローは、ビデオエンコーダの符号化効率を改善するために使用される。特に、動き補償に基づく符号化において、ビデオ画像内の物体の見かけの動きを記述する動きベクトルは、推定された光学フローを考慮に入れることによって、より効率的に決定され得る。
図1は、本発明の一実施形態に従うビデオシステムの構成を示すブロック図である。 図2は、本発明の一実施形態に従うビデオエンコーダの構成を示すブロック図である。 図3Aは、ビデオ画像内の見かけの動きを示す図である。図3Bは、ビデオ画像内の見かけの動きを示す図である。 図4Aは、カメラの適切な動きによって生じた光学フローフィールドを示す図である。図4Bは、カメラの適切な動きによって生じた光学フローフィールドを示す図である。 図5は、本発明の一実施形態に従う動き推定のための方法を示す図である。 図6は、本発明の一実施形態に従うセンサ支援ビデオ圧縮のための方法を示す流れ図である。 図7は、従来のビデオエンコーダの構成を示すブロック図である。 図8は、モデルベース予測を用いる従来のビデオエンコーダの構成を示すブロック図である。 図9は、動き推定のための従来の方法を示す図である。
符号の説明
100 ビデオシステム
110 ビデオエンコーダ
120 ビデオカメラ
130、131、132 センサ
141 専用マルチメディアバス
142 制御バス
145 ゲートウェイ
150 ビデオデコーダ
155 表示ユニット
165 記録媒体
210 ビデオデータ
215 断片化
220 減算器
230 データ圧縮
240 ローカルデコーダ
250 メモリ
260 予測
270 モデル
290 圧縮ビデオデータ

Claims (27)

  1. 車両用、特に自動車用デジタルビデオシステムであって、該ビデオシステムは、
    該車両に装着されたビデオカメラ(120)と、
    該車両の動きの現在の状態を示す車両動き情報を提供している少なくとも1つのセンサ(130〜132)と、
    該車両動き情報に従って、該ビデオカメラ(120)の視野内の物体の見かけの動きを推定する光学フロー推定ユニット(285)と、
    該推定された見かけの動きに従って、該ビデオカメラ(120)によって配信されたビデオデータを圧縮するように適合されたビデオエンコーダ(110)と
    を備える、デジタルビデオシステム。
  2. 前記光学フロー推定ユニット(285)は、前記少なくとも1つのセンサ(130〜132)によって提供された車両動き情報から、前記車両の動きの現在の状態を再構成する動き再構成手段をさらに備え、前記ビデオカメラ(120)の視野内の物体の前記見かけの動きは、該車両の該再構成された動きの現在の状態に従って、決定される、請求項1に記載のデジタルビデオシステム。
  3. 前記光学フロー推定ユニット(285)は、前記推定された見かけの動きに関する情報を一つのタイプのフローフィールドを示す定性的情報の形式で提供している、請求項1または請求項2に記載のデジタルビデオシステム。
  4. 前記光学フロー推定ユニット(285)は、前記推定された見かけの動きに関する情報をベクトルフィールド表現の形式で提供している、請求項1または請求項2に記載のデジタルビデオシステム。
  5. 前記ビデオエンコーダ(110)は、
    後続のビデオ画像内に動きを示す動きベクトルを決定するように適合された動き推定ユニット(270)であって、該動きベクトルは、前記カメラの視野内の物体の前記推定された見かけの動きに従って決定される、動き推定ユニット(270)と、
    前記ビデオデータと、該決定された動きベクトルから予測されるビデオ画像との間の差を符号化するように適合された予測符号化ユニットと
    を備える、請求項1〜請求項4のいずれか1項に記載のデジタルビデオシステム。
  6. 前記動き推定ユニット(270)は、可能な動きベクトルの所定のサーチ範囲をサーチすることによって、前記動きベクトルを決定している、請求項5に記載のデジタルビデオシステム。
  7. 前記動き推定ユニット(270)は、前記推定された見かけの動きに従って、前記サーチ範囲を設定している、請求項6に記載のデジタルビデオシステム。
  8. 前記動き推定ユニット(270)は、前記推定された見かけの動きに従って、前記動きベクトルをサーチする開始値を設定している、請求項5〜請求項7のいずれか1項に記載のデジタルビデオシステム。
  9. 前記ビデオエンコーダ(110)は、ビデオ画像をブロックに区分しているブロッキングデバイスをさらに備え、該ビデオ画像内の該ブロックの前記推定された見かけの動きおよび位置に従って、前記動き推定ユニット(270)は、該ブロックのそれぞれに対する動きベクトルを決定している、請求項5〜請求項8のいずれか1項に記載のデジタルビデオシステム。
  10. 前記ビデオエンコーダ(110)は、MPEG規格のいずれかに従って、前記ビデオデータを圧縮している、請求項1〜請求項9のいずれか1項に記載のデジタルビデオシステム。
  11. 前記少なくとも1つのセンサ(130〜132)は、タコメータ、加速度計、ステアリングホイールの角度センサ、距離センサ、ジャイロスコープ、羅針盤、およびGPS受信機のうちのいずれかである、請求項1〜請求項10のいずれか1項に記載のデジタルビデオシステム。
  12. 前記車両動き情報は、速度、動き方向、直線加速度、および半径方向加速度のうちの少なくとも1つを備える、請求項1〜請求項11のいずれか1項に記載のデジタルビデオシステム。
  13. 前記少なくとも1つのセンサ(130〜132)と前記ビデオエンコーダ(110)とを接続するためのデジタル通信バスラインをさらに備える、請求項1〜請求項12のいずれか1項に記載のデジタルビデオシステム。
  14. 前記少なくとも1つのセンサ(130〜132)と前記ビデオエンコーダ(110)とを接続するためのゲートウェイをさらに備える、請求項13に記載のデジタルビデオシステム。
  15. 前記デジタル通信バスラインを介して前記ビデオエンコーダ(110)に接続され、前記圧縮ビデオデータをデコードして表示するビデオデコーダおよび表示デバイスをさらに備える、請求項13または請求項14に記載のデジタルビデオシステム。
  16. 前記デジタル通信バスラインを介して前記ビデオエンコーダ(110)に接続され、前記圧縮ビデオデータを記録する記録デバイスをさらに備える、請求項13〜請求項15のいずれか1項に記載のデジタルビデオシステム。
  17. 車両用、特に自動車用のビデオ圧縮方法であって、
    該車両は、該車両に装着されたビデオカメラ(120)と、該車両の動きの現在の状態を示す車両動き情報を提供している少なくとも1つのセンサ(130〜132)とを備え、該方法は、
    該車両動き情報に従って、該ビデオカメラ(120)の視野内の物体の見かけの動きを推定するステップ(630)と、
    該推定された見かけの動きに従って、該ビデオカメラ(120)によって配信されたビデオデータを圧縮するステップ(640、650、660)と
    を包含する、ビデオ圧縮方法。
  18. 前記少なくとも1つのセンサ(130〜132)によって提供された車両動き情報から、前記車両の動きの現在の状態を再構成するステップ(620)をさらに包含し、
    該車両の該再構成された動きの現在の状態に従って、前記推定するステップは、実行される、請求項17に記載のビデオ圧縮方法。
  19. 前記推定するステップ(630)は、前記推定された見かけの動きに関する情報を一種のフローフィールドを示す定性的情報の形式で提供している、請求項17または請求項18に記載のビデオ圧縮方法。
  20. 前記推定するステップ(630)は、前記推定された見かけの動きに関する情報をベクトルフィールド表現の形式で提供している、請求項17または請求項18に記載のビデオ圧縮方法。
  21. 前記圧縮するステップ(640、650、660)は、
    前記カメラの視野内の物体の前記推定された見かけの動きに従って、後続のビデオ画像内に動きを示す動きベクトルを決定するステップ(640)と、
    前記ビデオデータと、該決定された動きベクトルから予測されるビデオ画像との間の差を符号化するステップ(650、660)と
    をさらに包含する、請求項17〜請求項20のいずれか1項に記載のビデオ圧縮方法。
  22. 前記決定するステップ(640)は、可能な動きベクトルの所定のサーチ範囲をサーチすることによって、前記動きベクトルを決定している、請求項21に記載のビデオ圧縮方法。
  23. 前記決定するステップ(640)は、前記推定された見かけの動きに従って、前記サーチ範囲を設定している、請求項22に記載のビデオ圧縮方法。
  24. 前記決定するステップ(640)は、前記推定された見かけの動きに従って、前記動きベクトルをサーチする開始値を設定している、請求項21〜請求項23のいずれか1項に記載のビデオ圧縮方法。
  25. 前記圧縮するステップ(640、650、660)は、ビデオ画像をブロックに区分するステップをさらに包含し、該ビデオ画像内の該ブロックの前記推定された見かけの動きおよび位置に従って、前記決定するステップ(640)は、該ブロックのそれぞれに対する動きベクトルを決定している、請求項21〜請求項24のいずれか1項に記載のビデオ圧縮方法。
  26. 前記圧縮するステップ(640、650、660)は、MPEG規格のいずれかに従って、前記ビデオデータを圧縮している、請求項17〜請求項25のいずれか1項に記載のビデオ圧縮方法。
  27. 前記車両動き情報は、速度、動き方向、直線加速度、および半径方向加速度のうちの少なくとも1つを備える、請求項17〜請求項26のいずれか1項に記載のビデオ圧縮方法。
JP2007268340A 2006-10-17 2007-10-15 センサ支援ビデオ圧縮 Expired - Fee Related JP5204458B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP06021719.7 2006-10-17
EP06021719.7A EP1921867B1 (en) 2006-10-17 2006-10-17 Sensor assisted video compression

Publications (2)

Publication Number Publication Date
JP2008104181A true JP2008104181A (ja) 2008-05-01
JP5204458B2 JP5204458B2 (ja) 2013-06-05

Family

ID=37564218

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007268340A Expired - Fee Related JP5204458B2 (ja) 2006-10-17 2007-10-15 センサ支援ビデオ圧縮

Country Status (6)

Country Link
US (1) US8358686B2 (ja)
EP (1) EP1921867B1 (ja)
JP (1) JP5204458B2 (ja)
KR (1) KR101365395B1 (ja)
CN (1) CN101166276B (ja)
CA (1) CA2605320C (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012151711A (ja) * 2011-01-20 2012-08-09 Renesas Electronics Corp 記録装置に搭載可能な半導体集積回路およびその動作方法
JP2014192704A (ja) * 2013-03-27 2014-10-06 Mega Chips Corp 動画像符号化処理装置、プログラムおよび集積回路
JP2017526193A (ja) * 2015-07-31 2017-09-07 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd ビデオ符号化方法及びシステム
JP2017529709A (ja) * 2015-07-31 2017-10-05 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd オプティカルフロー場を構築する方法
JP2017529710A (ja) * 2015-07-31 2017-10-05 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 検索エリアを評価する方法

Families Citing this family (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102006052779A1 (de) * 2006-11-09 2008-05-15 Bayerische Motoren Werke Ag Verfahren zur Erzeugung eines Gesamtbilds der Umgebung eines Kraftfahrzeugs
US20080195316A1 (en) * 2007-02-12 2008-08-14 Honeywell International Inc. System and method for motion estimation using vision sensors
US8213706B2 (en) 2008-04-22 2012-07-03 Honeywell International Inc. Method and system for real-time visual odometry
US8238612B2 (en) 2008-05-06 2012-08-07 Honeywell International Inc. Method and apparatus for vision based motion determination
US20100079605A1 (en) * 2008-09-29 2010-04-01 William Marsh Rice University Sensor-Assisted Motion Estimation for Efficient Video Encoding
CN101907700B (zh) * 2009-06-08 2013-02-13 英华达股份有限公司 一种辅助导航的转向判断方法
US20110019018A1 (en) * 2009-07-22 2011-01-27 National Chung Cheng University Image comprssion system in coordination with camera motion
US8988525B2 (en) * 2009-08-27 2015-03-24 Robert Bosch Gmbh System and method for providing guidance information to a driver of a vehicle
GB2480422B (en) * 2010-02-25 2014-07-09 Imagination Tech Ltd Object tracking using graphics engine derived vectors in a motion estimation system
US8473438B2 (en) 2010-04-13 2013-06-25 Empire Technology Development Llc Combined-model data compression
WO2011129817A2 (en) 2010-04-13 2011-10-20 Empire Technology Development Llc Semantic medical devices
WO2011129816A1 (en) 2010-04-13 2011-10-20 Empire Technology Development Llc Semantic compression
US8427346B2 (en) 2010-04-13 2013-04-23 Empire Technology Development Llc Adaptive compression
CN102918833B (zh) * 2010-06-15 2015-07-08 三菱电机株式会社 车辆周边监视装置
US8976744B2 (en) 2010-11-03 2015-03-10 Broadcom Corporation Vehicle communication network including wireless communications
US8704912B2 (en) * 2011-01-20 2014-04-22 Canon Kabushiki Kaisha Apparatus and method for compressive sampling
CN102263958A (zh) * 2011-07-26 2011-11-30 中兴通讯股份有限公司 基于h264运动估计算法的初始点获取方法及装置
DE102011113265B3 (de) * 2011-09-13 2012-11-08 Audi Ag Verfahren zur Bildverarbeitung von mit einem optischen Sensor in einem Kraftfahrzeug aufgenommenen Bilddaten und Kraftfahrzeug
TWI460668B (zh) * 2012-07-30 2014-11-11 Faraday Tech Corp 影像擷取系統與方法
US9154805B2 (en) 2012-09-12 2015-10-06 Advanced Micro Devices, Inc. Video and image compression based on position of the image generating device
US8941743B2 (en) * 2012-09-24 2015-01-27 Google Technology Holdings LLC Preventing motion artifacts by intelligently disabling video stabilization
US9355613B2 (en) * 2012-10-09 2016-05-31 Mediatek Inc. Data processing apparatus for transmitting/receiving compression-related indication information via display interface and related data processing method
US9568985B2 (en) * 2012-11-23 2017-02-14 Mediatek Inc. Data processing apparatus with adaptive compression algorithm selection based on visibility of compression artifacts for data communication over camera interface and related data processing method
KR101462848B1 (ko) * 2013-03-18 2014-11-18 에스엔유 프리시젼 주식회사 색정보를 측정할 수 있는 3차원 형상 측정 장치
JP6214995B2 (ja) * 2013-10-11 2017-10-18 株式会社東芝 駐車車両検出装置、車両管理システム、制御方法及び制御プログラム
ITTO20130971A1 (it) * 2013-11-29 2015-05-30 Protodesign S R L Sistema di codifica video per immagini e video da piattaforma aerea o satellitare assistita da sensori e da modello geometrico della scena
DE102014007900A1 (de) * 2014-05-27 2015-12-03 Man Truck & Bus Ag Verfahren und Fahrerassistenzsystem zur Ermittlung fahrdynamischer Zustände eines Nutzfahrzeugs
FR3022724A1 (fr) 2014-06-19 2015-12-25 Orange Procede de codage et de decodage d'images, dispositif de codage et de decodage d'images et programmes d'ordinateur correspondants
EP3131295A1 (en) * 2015-08-14 2017-02-15 Axis AB Video encoding method and system
WO2017066736A1 (en) * 2015-10-16 2017-04-20 Tribune Broadcasting Company, Llc Media-production system with social media content interface feature
US10880409B2 (en) 2017-02-20 2020-12-29 Cisco Technology, Inc. Mixed qualitative, quantitative sensing data compression over a network transport
US10491807B2 (en) * 2017-06-27 2019-11-26 GM Global Technology Operations LLC Method to use vehicle information and sensors for photography and video viewing recording
EP3442125A1 (en) * 2017-08-10 2019-02-13 Continental Automotive GmbH Sensor network assembly for reducing quantity of data for vehicles
CN208745890U (zh) * 2018-07-19 2019-04-16 汪玉华 太阳能无线倒车可视系统
EP3657799B1 (en) * 2018-11-22 2020-11-04 Axis AB Method for intra refresh encoding of a plurality of image frames
WO2022028673A1 (en) * 2020-08-04 2022-02-10 Toyota Motor Europe A method for calculating information relative to a relative speed between an object and a camera, a control method for a vehicle, a computer program, a computer-readable recording medium, an object motion analysis system and a control system
US20220277164A1 (en) * 2021-02-26 2022-09-01 Qualcomm Incorporated Technologies for image signal processing and video processing
US11810289B2 (en) * 2021-03-31 2023-11-07 Caterpillar Inc. Estimating the moving state of rotating machines systems and methods

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001103490A (ja) * 1999-10-01 2001-04-13 Hitachi Ltd ビデオ符号化装置
JP2004056683A (ja) * 2002-07-23 2004-02-19 Sumitomo Electric Ind Ltd 画像変換システム、画像処理装置及び画像変換方法
JP2004289305A (ja) * 2003-03-19 2004-10-14 Sumitomo Electric Ind Ltd 車載撮像システム及び撮像装置
JP2005323021A (ja) * 2004-05-07 2005-11-17 Fuji Photo Film Co Ltd 車載撮像システム、および撮像方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100683849B1 (ko) * 2000-06-28 2007-02-15 삼성전자주식회사 디지털 영상 안정화기능을 갖는 디코더 및 디지털영상안정화방법
US6897892B2 (en) * 2000-10-13 2005-05-24 Alexander L. Kormos System and method for forming images for display in a vehicle
CN1136738C (zh) * 2002-01-31 2004-01-28 北京理工大学 一种微型实时立体视觉机
JP2004056578A (ja) * 2002-07-22 2004-02-19 Fuji Photo Film Co Ltd 撮像装置
CN1219397C (zh) * 2002-10-22 2005-09-14 张晓林 仿生型自动视觉和视线控制系统及方法
JP2005014686A (ja) * 2003-06-24 2005-01-20 Matsushita Electric Ind Co Ltd ドライブレコーダ
WO2005084036A1 (ja) * 2004-03-01 2005-09-09 Sony Corporation 動きベクトル検出装置、および動きベクトル検出方法、並びにコンピュータ・プログラム
US20050213662A1 (en) * 2004-03-29 2005-09-29 James Owens Method of compression and digital imaging device employing compression algorithm
JP4844795B2 (ja) * 2004-11-02 2011-12-28 株式会社デンソー 車両用画像撮影装置
WO2007062404A2 (en) * 2005-11-23 2007-05-31 Capso Vision, Inc. Movement detection and construction of an 'actual reality' image
US7778472B2 (en) * 2006-03-27 2010-08-17 Qualcomm Incorporated Methods and systems for significance coefficient coding in video compression

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001103490A (ja) * 1999-10-01 2001-04-13 Hitachi Ltd ビデオ符号化装置
JP2004056683A (ja) * 2002-07-23 2004-02-19 Sumitomo Electric Ind Ltd 画像変換システム、画像処理装置及び画像変換方法
JP2004289305A (ja) * 2003-03-19 2004-10-14 Sumitomo Electric Ind Ltd 車載撮像システム及び撮像装置
JP2005323021A (ja) * 2004-05-07 2005-11-17 Fuji Photo Film Co Ltd 車載撮像システム、および撮像方法

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012151711A (ja) * 2011-01-20 2012-08-09 Renesas Electronics Corp 記録装置に搭載可能な半導体集積回路およびその動作方法
JP2014192704A (ja) * 2013-03-27 2014-10-06 Mega Chips Corp 動画像符号化処理装置、プログラムおよび集積回路
JP2017526193A (ja) * 2015-07-31 2017-09-07 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd ビデオ符号化方法及びシステム
JP2017529709A (ja) * 2015-07-31 2017-10-05 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd オプティカルフロー場を構築する方法
JP2017529710A (ja) * 2015-07-31 2017-10-05 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 検索エリアを評価する方法
US10321153B2 (en) 2015-07-31 2019-06-11 SZ DJI Technology Co., Ltd. System and method for constructing optical flow fields
US10708617B2 (en) 2015-07-31 2020-07-07 SZ DJI Technology Co., Ltd. Methods of modifying search areas
US10834392B2 (en) 2015-07-31 2020-11-10 SZ DJI Technology Co., Ltd. Method of sensor-assisted rate control
US10904562B2 (en) 2015-07-31 2021-01-26 SZ DJI Technology Co., Ltd. System and method for constructing optical flow fields

Also Published As

Publication number Publication date
KR20080034784A (ko) 2008-04-22
JP5204458B2 (ja) 2013-06-05
EP1921867A1 (en) 2008-05-14
US20080187047A1 (en) 2008-08-07
KR101365395B1 (ko) 2014-02-19
CA2605320C (en) 2016-01-12
EP1921867B1 (en) 2016-05-25
CN101166276A (zh) 2008-04-23
US8358686B2 (en) 2013-01-22
CN101166276B (zh) 2011-10-26
CA2605320A1 (en) 2008-04-17

Similar Documents

Publication Publication Date Title
JP5204458B2 (ja) センサ支援ビデオ圧縮
EP3722992B1 (en) System and method for pre-processing images captured by a vehicle
EP2077038B1 (en) Scalable video coding with filtering of lower layers
KR100703740B1 (ko) 다 계층 기반의 모션 벡터를 효율적으로 부호화하는 방법및 장치
JP4021685B2 (ja) 画像合成変換装置
JP3528548B2 (ja) 車両用動画像処理方法および車両用動画像処理装置
US9667908B2 (en) Image recording system
US20120044327A1 (en) Device for acquiring stereo image
US20180124425A1 (en) Motion estimation through machine learning
EP1736006A1 (en) Inter-frame prediction method in video coding, video encoder, video decoding method, and video decoder
CN108924461B (zh) 视频图像处理方法及装置
US7075985B2 (en) Methods and systems for efficient video compression by recording various state signals of video cameras
US9501879B2 (en) Semiconductor integrated circuit mountable on recording device and method of operating the same
JP6915219B2 (ja) コンピュータ実施方法、撮像システム、及び画像処理システム
CN114170325A (zh) 确定单应性矩阵的方法、装置、介质、设备和程序产品
US9361525B2 (en) Method for processing an image sequence and tester for a car
JP4943586B2 (ja) 効率的な映像処理のための方法および装置
US20120207217A1 (en) Video coding based on global movement compensation
US20070140335A1 (en) Method of encoding video signals
CN111263167A (zh) 基于传感器辅助全局运动估计的uav视频编解码方法
US6885706B2 (en) Method for promoting temporal resolution of sequential images
CN104871544B (zh) 编码方法以及编码装置
CN117221511B (zh) 视频处理方法、装置、存储介质及电子设备
KR20150037462A (ko) 저장 영상을 활용한 차량 주변 모니터링 장치
Maitre et al. 3D scene modeling for distributed video coding

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100623

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120130

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120427

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120507

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120530

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120604

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120608

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130215

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160222

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees