JP2013539319A - 時空間積分を使用してビデオの圧縮測定値を生成するための装置および方法 - Google Patents

時空間積分を使用してビデオの圧縮測定値を生成するための装置および方法 Download PDF

Info

Publication number
JP2013539319A
JP2013539319A JP2013531634A JP2013531634A JP2013539319A JP 2013539319 A JP2013539319 A JP 2013539319A JP 2013531634 A JP2013531634 A JP 2013531634A JP 2013531634 A JP2013531634 A JP 2013531634A JP 2013539319 A JP2013539319 A JP 2013539319A
Authority
JP
Japan
Prior art keywords
time
value
metric
space
period
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013531634A
Other languages
English (en)
Other versions
JP2013539319A5 (ja
JP5657802B2 (ja
Inventor
ジアン,ホン
ホワン,ガン
ウイルフオード,ポール
Original Assignee
アルカテル−ルーセント
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アルカテル−ルーセント filed Critical アルカテル−ルーセント
Publication of JP2013539319A publication Critical patent/JP2013539319A/ja
Publication of JP2013539319A5 publication Critical patent/JP2013539319A5/ja
Application granted granted Critical
Publication of JP5657802B2 publication Critical patent/JP5657802B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Photometry And Measurement Of Optical Pulse Characteristics (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

本発明は、時空間積分を使用してビデオの圧縮測定値を生成するための装置100および方法に関する。装置100は、光学データに基づいて、一定期間にわたって時間的ビデオ構造の輝度値を検出するように構成された検出器110を含む。時間的ビデオ構造は、一定期間にわたって対応する輝度値を備えた水平次元と垂直次元とを有する画素を有する。装置100は、複数の測定ベースを受信するように構成された時空間積分器ユニット110も含む。また、時空間積分器ユニットは、それぞれの測定基準を時間的ビデオ構造に適用して、測定値のセットを取得するために、一定期間にわたって、それぞれの測定基準に関して結果として生じた値を合計するように構成される。それぞれの測定基準に関して合計された値は測定値のセットである。

Description

本発明は、時空間積分を使用してビデオの圧縮測定値を生成するための装置および方法に関する。
画像カメラまたはビデオカメラは、画像データまたはビデオデータを獲得するとき、かなりの量のデータを捕捉する。獲得されたデータを記憶または送信するために、このデータは、一般に、ビデオが捕捉された後で圧縮される。この圧縮は、一般に、N個の画素より少ない波長係数Kのスパースな線形結合(sparse linear combination)としてN画素画像が近似され得るという事実など、先験的な知識を利用する。波長係数は、Nの画素値から計算され、次いで、それらの位置と共に記憶または送信されることが可能である。スパース信号の変換符号化に関する標準手順は、完全なNサンプル信号を獲得して、変換係数の完全セットを計算し、K個の最大有効係数の位置を突き止め、多くの小さな係数を廃棄し、最大係数の値および位置を符号化することである。Nが大きく、Kが小さいとき、このプロセスは非効率的である。しかし、大量の生画像データまたは生ビデオデータ(大きなN)を獲得することは、特に、CMOS感知技術またはCCD感知技術が制限される波長において費用がかかる場合がある。また、生データを圧縮することは、計算的に大変な労力を必要とする場合がある。
1つの従来の手法は、初めにN個の画素を収集せずに、圧縮撮像を使用して、ランダム投影を直接獲得することである。例えば、この従来の手法は、測定基準を(例えば、画素値が取得される前に)光学レンズによって捕捉されたデータに適用して、符号化データを表す一連の測定値を取得する。したがって、この従来の方法は、初めにNの画素値を獲得せずに、N画素画像の削減された測定値のセットを直接獲得する。しかし、この従来の手法は、ビデオデータを捕捉するとき欠点を有する。例えば、この従来の手法は、時間積分なしに、画像のスナップショットを使用して空間投影/空間積分だけを実行する。ビデオデータはそれぞれの測定値に関して異なる二次元(2D)スナップショットにローカライズされる。したがって、この方法は、スナップショット間の情報を失うか、または高速動作を捕捉するために大量のデータを獲得せざるを得ない。
本発明は、時空間積分を使用してビデオの圧縮測定値を生成するための装置および方法に関する。
この装置は、光学データに基づいて、一定期間にわたって時間的ビデオ構造の輝度値を検出するように構成された検出器を含む。時間的ビデオ構造は、一定期間にわたって対応する輝度値を備えた水平次元と垂直次元とを有する画素を有する。この装置は、複数の測定ベースを受信するように構成された時空間積分器ユニットも含む。それぞれの測定基準は、一定期間にわたって対応する割り当てられた値を備えた時間的ビデオ構造と同じ水平次元と垂直次元とを有する。また、時空間積分器ユニットは、それぞれの測定基準を時間的ビデオ構造に適用して、測定値のセットを取得するために、一定期間にわたって、それぞれの測定基準に関して結果として生じた値を合計するように構成される。それぞれの測定基準に関して合計された値は測定値のセットである。
ある実施形態によれば、この時空間積分器ユニットは、複数の乗算器を含むことが可能であり、それぞれの乗算器は、時間的ビデオ構造の検出された輝度値を対応する測定基準で乗算するように構成される。この時空間積分器ユニットは、複数の積分器を含むことが可能であり、それぞれの積分器は、対応する乗算器に接続され、一定期間にわたって対応する積分器の出力を合計するように構成される。
別の実施形態によれば、この時空間積分器ユニットは、複数の測定ベースを受信して、測定ベースの割り当てられた値に基づいて検出器によって検出され輝度値にアクセスするように構成された画素アクセスと、複数の乗算器であって、それぞれの乗算器が時間的ビデオ構造のアクセスされた輝度値を対応する測定基準で乗算するように構成された複数の乗算器と、複数の積分器であって、それぞれの積分器が対応する乗算器に接続され、一定期間にわたって対応する積分器の出力を合計するように構成された複数の積分器とを含むことが可能である。
ある実施形態によれば、それぞれの測定基準は、第1の割り当てられた値を有する基準成分と、一定期間内に等しい長さの複数の重複しないタイムスロットを有する時分割成分とを含み、タイムスロットは第2の割り当てられた値を有する。
一実施形態によれば、この時空間積分器ユニットは、第1の割り当てられた値に基づいて輝度値を検出するように構成された光子検出器と、第2の割り当てられた値に基づいて、検出された輝度値のうちの少なくとも1つを選択するように構成されたマルチプレクサと、一定期間にわたって、それぞれの測定基準に関して選択された輝度値を合計するように構成された複数の積分器とを含む。
別の実施形態によれば、この時空間積分器ユニットは、第1の割り当てられた値と第2の割り当てられた値とに基づいて検出器によって検出された輝度値にアクセスするように構成された画素アクセスと、一定期間にわたって、それぞれの測定基準に関してアクセスされた輝度値を合計するように構成された複数の積分器とを含む。
第1の割り当てられた値および第2の割り当てられた値は、0または1の2進値であってよい。検出器は、例えば、電荷結合素子(CCD)と、相補型金属酸化膜半導体(complementary metal−oxide−semiconductor)(CMOS)、またはマイクロミラーを含むことが可能である。測定ベースのセットは、ランダムに順序付けられたウォルシュアダマール行列(Walsh−Hadamard matrix)を使用して構成されることが可能である。割り当てられた値は、0または1の2進値であってよい。
この方法は、光学データに基づいて、一定期間にわたって、時間的ビデオ構造の輝度値を検出するステップを含むことが可能である。この時間的ビデオ構造は、一定期間にわたって対応する輝度値を備えた水平次元と垂直次元とを有する画素を有する。この方法は、複数の測定ベースを受信するステップを含み、それぞれの測定基準は、一定期間にわたって対応する割り当てられた値を備えた時間的ビデオ構造と同じ水平次元と垂直次元とを有する。この方法は、それぞれの測定基準を時間的ビデオ構造に適用するステップと、測定値のセットを取得するために、それぞれの測定基準に関して、一定期間にわたって、結果として生じた値を合計するステップとをさらに含む。それぞれの測定基準に関して合計された値は測定値のセットである。
この方法は、時間的ビデオ構造の検出された輝度値を対応する測定基準で乗算するステップと、それぞれの測定基準に関して、一定期間にわたって、乗算するステップの結果を合計するステップとをさらに含むことが可能である。
他の実施形態では、この方法は、測定ベースの割り当てられた値に基づいて検出器によって検出された輝度値にアクセスするステップと、時間的ビデオ構造のアクセスされた輝度値を対応する測定基準で乗算するステップと、それぞれの測定基準に関して、一定期間にわたって乗算するステップの結果を合計するステップとを含むことが可能である。
一実施形態では、それぞれの測定基準は、第1の割り当てられた値を有する基準成分と、一定期間内に等しい長さの複数の重複しないタイムスロットを有する時分割成分とを含み、タイムスロットは第2の割り当てられた値を有する。
この方法は、第1の割り当てられた値に基づいて輝度値を検出するステップと、第2の割り当てられた値に基づいて、検出された輝度値のうちの少なくとも1つを選択するステップと、一定期間にわたって、それぞれの測定基準に関して選択された輝度値を合計するステップとを含むことが可能である。
別の実施形態では、この方法は、第1の割り当てられた値と第2の割り当てられた値とに基づいて検出器によって検出された輝度値にアクセスするステップと、一定期間にわたって、それぞれの測定基準に関してアクセスされた輝度値を合計するステップとを含むことが可能である。第1の割り当てられた値および第2の割り当てられた値は、0または1の2進数であってよい。測定ベースのセットは、ランダムに順序付けられたウォルシュアダマール行列を使用して構成され得る。
例示的な実施形態は、本明細書で下に提示される詳細な説明と、例としてのみ提示され、したがって、本発明の限定ではない、類似の要素が類似の参照番号によって表される、添付の図面とからより十分に明らかになるであろう。
本発明のある実施形態による時空間積分器を含む装置を例示する図である。 本発明のある実施形態による時空間積分器を例示する図である。 本発明の別の実施形態による時空間積分器を例示する図である。 本発明のある実施形態による時分割測定基準を示すタイミング図である。 本発明の別の実施形態による時空間積分器を例示する図である。 本発明の別の実施形態による時空間積分器を例示する図である。
次に、添付の図面を参照して、本発明の様々な実施形態がより十分に説明される。図面上の類似の要素は、類似の参照番号によってラベル付けされている。
本明細書で使用される場合、文脈上別段に明記されていない限り、単数形「a」、「an」、および「the」は複数形も同様に含むことが意図される。「備える」、「備えている」、「含む」、および/または「含んでいる」という用語は、本明細書で使用されるとき、提示された特徴、整数、ステップ、動作、要素、および/または成分の存在を指定するが、1つもしくは複数の他の特徴、整数、ステップ、動作、要素、成分、および/またはそれらのグループの存在あるいは追加を排除しない点をさらに理解されよう。
次に、添付の図面を参照して本発明が説明される。当業者によく知られている詳細で本発明を不明瞭にしないように、様々な構造、システム、およびデバイスは説明のためだけに図面で概略的に示される。それにもかかわらず、添付の図面は、本発明の説明のための実施例を記述および説明するために含まれる。本明細書で使用される用語および成句は、当業者によるそれらの用語および成句の理解と一致する意味を有すると理解され解釈されるべきである。用語または成句が特定の意味、すなわち、当業者によって理解される以外の意味を有することが意図される限り、そのような特別な定義は、その用語または成句に関してその特別な定義を直接的かつ明白に提供する明細書において明確に説明される。
本発明の実施形態は、光学データを受信して、測定値のセットを生成する時空間積分器を含む装置を提供する。
図1は、本発明のある実施形態による時空間積分器110を含む装置100を例示する。装置100は、例えば、カメラ、カメラシステム、モバイルビデオ電話、パーソナルコンピュータシステム、スマートフォン、または任意のタイプのコンピューティングデバイスなど、ビデオデータを獲得することができる任意のタイプのデバイスであってよい。装置100は、光学レンズ105と、時空間積分器110と、測定ベース記憶装置115とを含む。装置100は、記憶ユニット120および/または送信機125を含むことも可能である。加えて、装置100は、例えば、シャッターなど、当技術分野でよく知られているその他の構成要素を含むことが可能である。
光学レンズ105は、ビデオデータを捕捉するために光を送信および屈折させる軸対称を有する任意のタイプのレンズであってよい。測定ベース記憶装置115は、光学レンズ105からの光学データに適用されることになる測定行列を記憶する。測定行列は、割り当てられた値のパターンを含む。また、測定行列は、測定ベースのセットによって表されることが可能である。測定ベースおよび測定行列という用語は、交換可能に使用され得る。測定行列の割り当てられた値のパターンは、ランダムに順序付けられたウォルシュアダマール行列を使用して構成されることが可能である。しかし、本発明の実施形態は、任意のタイプの測定行列を包含する。時空間積分器110は、光学レンズ105から光学データを受信して、測定ベース記憶装置115から測定ベースを受信して、圧縮測定値のセットを生成する。例えば、積分は空間と時間の両方で実行される。したがって、時空間積分を用いて、より多くのビデオ情報が捕捉される。
時空間積分器110は、それぞれの測定基準をビデオデータに適用して、ビデオデータの測定を行う。ビデオデータは、例えば、電荷結合素子(CCD)、相補型金属酸化膜半導体(CMOS)、またはマイクロミラーなど、任意のタイプの光源検出器によって検出されることが可能である。本発明の実施形態は、黒/白ビデオデータとカラービデオデータとを含む。
検出されたビデオデータは、一定期間(例えば、0.1秒)の間のビデオのフレームを含む。ビデオデータは、三次元(3D)時間的ビデオ構造V(i,j,t)によって表されることが可能であり、式中、iはフレームの水平次元、1≦i≦Iであり、jはフレームの垂直次元、1≦j≦Jであり、tは時間次元、1≦t≦Tである。特定の例において、時間的ビデオ構造は、640×480の6個のフレームを含むことが可能であり、I=640、J=480、T=6である。しかし、本発明の実施形態は、I、J、およびTに関して任意のタイプの値を含む。時間的ビデオ構造は、照度Vと関連付けられることが可能である。したがって、検出されたビデオ構造は、一定期間Tにわたって、対応する輝度値を備えた水平次元iと垂直次元jとを有する画素を含むことが可能である。
ある実施形態によれば、測定ベースのセットは、M個のビデオ構造を含む。例えば、それぞれの測定基準は、上で記述されたビデオ構造と同じビデオ構造(i,j,t)を有する。測定ベースのセットは、M個のビデオ構造(i,j,t)を含み、Mは測定ベースの数である。パラメータMは、測定値の数にも対応する。例えば、測定ベースのセットは以下、
(i,j,t)、m=1、2、...M、1≦i≦I、1≦j≦J、1≦t≦T
によって表されることが可能である。
測定ベースのセットBは、事前に割り当てられた値を用いてランダムに生成され得る。すなわち、それぞれの測定基準(1からM)は、一定期間Tにわたって対応する割り当てられた値を備えた水平次元iと垂直次元jとを有する。
時空間積分器110は、測定ベースのセットを受信する。また、時空間積分器は、i、j、およびtのすべての値に対して画素を積分することによって、時間的ビデオ構造の検出された輝度値にそれぞれの測定基準(1からM)を適用して、時間的ビデオ構造を表す符号化データである測定値のセット(例えば、Y)を生成する。例えば、上記の測定基準において時間的ビデオ構造V(i,j,t)の測定値(Y)は、
Figure 2013539319
である。積分は、i、j、tのすべての値に対して実行される。したがって、時空間積分器110は、所与の測定基準Bに関して、時間的ビデオ構造の測定値Yを計算する。カラービデオデータの場合、時空間積分器110は、RGBカラー方式でそれぞれの色(赤、緑、青)に関する測定値Yを計算する。
記憶ユニット120は、圧縮測定値のセットを記憶することが可能である。また、測定ベース記憶装置115および記憶装置120は、1つの記憶ユニットであってよく、または図1に示されるように、別個の記憶ユニットであってもよい。記憶ユニット120および測定ベース記憶装置115は、例えば、光ディスク、読出し専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、ハードドライブ、フラッシュメモリ、または任意のその他のコンピュータメモリユニットなど、情報を記憶することが可能な任意のタイプのデバイスであってよい。送信機125は、記憶ユニット120から、かつ/または時空間積分器110から圧縮測定値を受信することができる。
送信機125は、ビデオ伝送アプリケーションをサポートするネットワークを介して圧縮測定値を送信することができる。ネットワークは、任意の知られている、無線または有線の伝送ネットワークであってよい。例えば、ネットワークは、無線ネットワーク制御装置(RNC)、基地局(BS)、またはあるデバイスから別のデバイスにネットワークを介してビデオデータを送信するのに必要な任意のその他の知られている構成要素を含む無線ネットワークであってよい。ネットワークのビデオ伝送アプリケーション部としては、例えば、デジタルビデオブロードキャスティング−ハンドヘルド(Digital Video Broadcasting−Handheld)(DVB−H)、ハンドヘルド向けデジタルビデオブロードキャスティング−衛星サービス(Digital Video Broadcasting−Satellite services to Handhelds)(DVB−SH)、ロングタームエボリューション(LTE)、または進化型マルチメディアブロードキャストマルチキャストサービス(eMBMS)が挙げられる。あるデバイスは、専用の通信チャネルまたは共有通信チャネルを経由して、ビデオ情報を別のデバイスに送信することができる。
図2は、本発明のある実施形態による時空間積分器110を例示する。時空間積分器110は、検出器と、時空間積分器ユニットとを含む。検出器は、電荷結合素子(CCD)201を含む。この時空間積分器ユニットは、複数の乗算器202と、複数の積分器203と、複数のアナログデジタル変換器(ADC)204とを含む。CCD201は、乗算器202のそれぞれに接続される。それぞれの乗算器202は、対応するADC204に接続された、対応する積分器203に接続される。
CCD201は、光学レンズ105から光学データを受信して、一定期間Tにわたって時間的ビデオ構造V(i,j,t)の輝度値を検出する。時間的ビデオ構造V(i,j,t)は、水平次元iと垂直次元jとを有し、かつ期間Tにわたって、対応する輝度値を備えた画素を有する。時空間積分器110は、CCD201からの画素値の二次元(2D)アレイが順序正しく(例えば、一度に1個の値が)乗算器202のそれぞれに送信されるように構成されるシリアル化によってCCD201から情報を取得する。乗算器202のそれぞれは、シリアル化された時間的ビデオ構造V(i,j,t)を一度に1個の画素ずつ受信し、対応する測定基準B(i,j,t)を受信する。
乗算器202の数は測定ベースMの数に対応する。例えば、それぞれの乗算器202は、シリアル化された時間的ビデオ構造V(i,j,t)と、異なる測定基準(BからB)とを受信する。B(i,j,t)のそれぞれの割り当てられた値は、0もしくは1の2進数であってよく、または任意のその他の数であってもよい。B(i,j,t)のそれぞれの割り当てられた値が2進数であるとき、それぞれの分岐内の乗算器202は、オンスイッチ/オフスイッチとして動作する。時間的ビデオ構造V(i,j,t)は、測定値のセットB(i,j,t)からB(i,j,t)のそれぞれによって乗算されて、各々それぞれの乗算器202から結果として生じる値は、測定値のセットを生成するために、一定期間Tにわたって合計される。それぞれの測定基準に関して合計された結果は、測定値のセットである。すなわち、それぞれの対応する積分器203は、期間0からTにわたって対応する乗算器202からの値を積分する。それぞれのADC204は、合計された値を、測定値のセットYからYであるデジタル信号に変換する。測定値のセットYからYは、時間的ビデオ構造を表す符号化データである。
図3は、本発明の別の実施形態による時空間積分器110を例示する。この実施形態では、検出器は、相補型金属酸化膜半導体(CMOS)301を含む。時空間積分器ユニットは、画素アクセス302と、複数の乗算器202と、複数の積分器204と、複数のADC204とを含む。装置100は、CMOS301上に時間的ビデオ構造V(i,j,t)を形成する。例えば、CMOS301は、光学レンズ105から光学データを受信して、一定期間Tにわたって、時間的ビデオ構造V(i,j,t)の輝度値を検出する。上で述べられたように、時間的ビデオ構造V(i,j,t)は、水平次元iと垂直次元jとを有し、かつ期間Tにわたって対応する輝度値を備えた画素を有する。
画素アクセス302は、それぞれの測定基準(B−B)内の割り当てられた値のうちの1つがゼロでない限り、測定ベースのセットB(i,j,t)に基づいて、CMOS301内の画素にアクセスする。例えば、B(i,j,t)のそれぞれの割り当てられた値は、0もしくは1の2進値であってよく、または任意のその他の数であってもよい。B(i,j,t)のそれぞれの割り当てられた値が2進値であるとき、B(i,j,t)の割り当てられた値がゼロでない場合、画素アクセス302は位置(i,j)における画素値にアクセスする。B(i,j,t)の割り当てられた値がゼロである場合、画素アクセス302は位置(i,j)における画素にアクセスしない。CMOS301からのそれぞれの検出された画素値は、受信された測定ベースのセットB(i,j,t)に従って、画素アクセス302によってM個の乗算器202のそれぞれに転送される。それぞれの乗算器202において、検出された画素値は測定基準B(i,j,t)の対応する値によって乗算される。しかし、測定ベースのセットB(i,j,t)の割り当てられた値が2進数であるとき、乗算器202は、パススルーデバイス(pass−through devices)として動作する。それぞれの乗算器202を通過する画素値は、測定値のセットを生成するために、一定期間Tにわたって合計される。それぞれの測定基準に関して合計された結果は、測定値のセットである。ADC204は上で述べられたのと同じように動作するため、説明を簡単にするために、詳細な議論は省略される。
図4は、本発明のある実施形態による時分割測定基準を示すタイミング図を例示する。
この実施形態では、それぞれの測定基準は、第1の割り当てられた値を有する基準成分と、一定期間内に等しい長さの複数の重複しないタイムスロットを有する時分割成分とを含む。タイムスロットは、第2の割り当てられた値を有する。例えば、図4に示されるように、設定期間Tは、等しい長さの複数の重複しないタイムスロットに分割される。次いで、タイムスロットの少なくともいくつかには、それぞれの時分割成分S(t)−S(t)内の1の2進値がランダムに割り当てられる。基準成分P(i,j,t)の様々な割り当てられた値は、それぞれの測定基準(1からM)に関して同じである。時分割成分S(t)に関してタイムスロット内で割り当てられた値は、それぞれの測定基準(1からM)に関して変更し得る。例えば、測定ベースのセットB(i,j,t)は、以下の方程式、
(i,j,t)=P(i,j,t)S(t)、m=1、2...M
によって表される
Mは測定ベースの数である。P(i,j,t)は、3つの変数のランダム2進関数であり、S(t)は、下でさらに記述されるように、それぞれの測定基準に関する1つの変数の2進関数である。
図4に示されるように、時間間隔[0,T]は、等しい長さのkM個の重複しないタイムスロットに分割されて、m=1、2...Mのそれぞれに対するk個のタイムスロットがランダムに割り当てられる。パラメータkは、1以上の整数であってよい。Dは、mに関連するk個のタイムスロットの集合体である。一実施形態では、S(t)は、k個のタイムスロットD内では1であり、D外ではゼロである。
図5は、本発明の別の実施形態による時空間積分器110を例示する。この実施形態では、検出器は、マイクロミラー501と光子検出器502とを含む。時空間積分器ユニットは、マルチプレクサ503と、複数の積分器203と、複数のADC204とを含む。この実施形態では、測定ベースB(i,j,t)の第1の割り当てられた値を有する基準成分P(i,j,t)がマイクロミラー501に提供される。
基準成分P(i,j,t)の割り当てられた値のそれぞれは、0または1の2進数である。基準成分P(i,j,t)に関する1の値は、時間tに位置(i,j)におけるマイクロミラー501が、光学レンズ105からの光学データが光子検出器502に向けられるような角度に向けられることを示す。基準成分P(i,j,t)に関する0の値は、時間tに位置(i,j)におけるマイクロミラー501が、光学レンズ105からの光が光子検出器502に向けられないような角度に向けられることを示す。したがって、光子検出器502は、測定基準B(i,j,t)の基準成分P(i,j,t)の第1の割り当てられた値によって示されるように、時間的ビデオ構造V(i,j,t)の輝度値を検出する。すなわち、光子検出器502は、1に等しい、対応する基準成分P(i,j,t)を有するマイクロミラーから反射された、組み合わされた光源の光度を検出する。0に等しい、対応する基準成分P(i,j,t)を有するマイクロミラーは、光子検出器502から離れた方向に光を導く。光子検出器502からの結果は、対応する測定基準P(i,j,t)を有するオブジェクトからの光の空間積分を表す。
マルチプレクサ503は、測定基準B(i,j,t)の時分割成分S(t)の第2の割り当てられた値に基づいて、光子検出器502によって受信される輝度値を選択する。時分割成分S(t)のそれぞれの第2の割り当てられた値は、0または1の2進値を含む。タイムインスタンスtで時分割成分S(t)=1のとき、マルチプレクサ503は、値を光子検出器502から積分器203−mに転送する。例えば、タイムインスタンスtで、時分割成分S(t)=1の場合、光子検出器502からの値は積分器203−1に転送される。他方で、時分割成分S(t)=1である場合、光子検出器502からの値は積分器203−2に転送される。時分割成分S(t)は、それぞれの所与のタイムインスタンスで、交差しないタイムスロットを使用することによって構成されるため、光子検出器からの値は積分器203のうちの1つだけに転送される。
積分器203は、測定値のセットを生成するために、一定期間Tにわたって、それぞれの測定基準に関してアクセスされた輝度値を合計する。ADC204は上で述べられたのと同じように動作するため、説明を簡単にするために、詳細な議論は省略される。
図6は、本発明の別の実施形態による時空間積分器110を例示する。図6は、画素アクセス302が図4の時分割測定基準に基づいて、CMOS301の画素値にアクセスすることを除いて、本発明の図3に類似する。基準成分P(i,j,t)と時分割成分S(t)は両方とも0または1の2進値を有するため、乗算器202は省略される。タイムインスタンスtで測定基準P(i,j,t)S(t)=1のとき、画素アクセス302は、CMOS301の位置(i,j)からの画素値を積分器203−mに転送する。例えば、タイムインスタンスtで、P(1,2,t)S(t)=1の場合、CMOS301の位置(1,2)からの画素値は積分器203−1に転送される。他方で、P(3,2,t)S(t)=1である場合、CMOS301の位置(3,2)からの画素値は積分器203−2に転送される。S(t)は、交差しないタイムスロットを使用することによって構成されるため、それぞれの所与のタイムインスタンスで、任意のCMOS位置からの画素値は積分器203のうちの1つだけに転送される。積分器203およびADC204は上で述べられたのと同じように動作するため、説明を簡単にするために、詳細な議論は省略される。
本発明の例示的な実施形態の改変形態は、本発明の例示的な実施形態の趣旨および範囲からの逸脱とみなされるべきではなく、当業者に明らかであるように、すべてのそのような改変形態は、本発明の範囲内に包括されることが意図される。

Claims (10)

  1. 時空間積分を使用してビデオデータの圧縮測定値を生成するための装置(100)であって、
    光学データに基づいて、一定期間にわたって時間的ビデオ構造の輝度値を検出するように構成された検出器(110)であって、時間的ビデオ構造が、一定期間にわたって対応する輝度値を備えた水平次元と垂直次元とを有する画素を有する、検出器(110)と、
    複数の測定ベースを受信するように構成された時空間積分器ユニット(110)であって、それぞれの測定基準が、一定期間にわたって対応する割り当てられた値を備えた時間的ビデオ構造と同じ水平次元と垂直次元とを有する、時空間積分器ユニット(110)とを含み、
    時空間積分器ユニット(110)は、それぞれの測定基準を時間的ビデオ構造に適用して、測定値のセットを取得するために、一定期間にわたって、それぞれの測定基準に関して結果として生じる値を合計するように構成され、それぞれの測定基準に関して合計された値は測定値のセットである、装置(100)。
  2. 時空間積分器ユニット(110)が、
    それぞれが、時間的ビデオ構造の検出された輝度値を対応する測定基準で乗算するように構成されている複数の乗算器(202)と、
    それぞれが、対応する乗算器に接続され、一定期間にわたって対応する積分器の出力を合計するように構成された複数の積分器(203)とを含む、請求項1に記載の装置。
  3. 時空間積分器ユニット(110)が、
    複数の測定ベースを受信して、測定ベースの割り当てられた値に基づいて検出器によって検出された輝度値にアクセスするように構成された画素アクセス(302)と、
    それぞれが、時間的ビデオ構造のアクセスされた輝度値を対応する測定基準で乗算するように構成されている複数の乗算器(202)と、
    それぞれが、対応する乗算器に接続され、一定期間にわたって対応する積分器の出力を合計するように構成された複数の積分器(203)とを含む、請求項1に記載の装置。
  4. それぞれの測定基準が、第1の割り当てられた値を有する基準成分と、一定期間内に等しい長さの複数の重複しないタイムスロットを有する時分割成分とを含み、タイムスロットが第2の割り当てられた値を有する、請求項1に記載の装置。
  5. 時空間積分器ユニットが、
    第1の割り当てられた値に基づいて輝度値を検出するように構成された光子検出器(502)と、
    第2の割り当てられた値に基づいて、検出された輝度値のうちの少なくとも1つを選択するように構成されたマルチプレクサ(503)と、
    一定期間にわたって、それぞれの測定基準に関して選択された輝度値を合計するように構成された複数の積分器(203)とを含む、請求項4に記載の装置。
  6. 時空間積分器ユニットが、
    第1の割り当てられた値と第2の割り当てられた値とに基づいて検出器によって検出された輝度値にアクセスするように構成された画素アクセス(302)と、
    一定期間にわたって、それぞれの測定基準に関してアクセスされた輝度値を合計するように構成された複数の積分器(203)とを含む、請求項4に記載の装置。
  7. 第1の割り当てられた値および第2の割り当てられた値が0または1の2進値である、請求項4に記載の装置。
  8. 検出器が電荷結合素子(CCD)(201)を含む、請求項1に記載の装置。
  9. 検出器が相補型金属酸化膜半導体(CMOS)(301)を含む、請求項1に記載の装置。
  10. 検出器がマイクロミラー(501)を含む、請求項1に記載の装置。
JP2013531634A 2010-09-30 2011-09-15 時空間積分を使用してビデオの圧縮測定値を生成するための装置および方法 Active JP5657802B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/894,855 2010-09-30
US12/894,855 US8644376B2 (en) 2010-09-30 2010-09-30 Apparatus and method for generating compressive measurements of video using spatial and temporal integration
PCT/US2011/051730 WO2012044468A1 (en) 2010-09-30 2011-09-15 Apparatus and method for generating compressive measurements of video using spatial and temporal integration

Publications (3)

Publication Number Publication Date
JP2013539319A true JP2013539319A (ja) 2013-10-17
JP2013539319A5 JP2013539319A5 (ja) 2014-06-19
JP5657802B2 JP5657802B2 (ja) 2015-01-21

Family

ID=44800226

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013531634A Active JP5657802B2 (ja) 2010-09-30 2011-09-15 時空間積分を使用してビデオの圧縮測定値を生成するための装置および方法

Country Status (6)

Country Link
US (1) US8644376B2 (ja)
EP (1) EP2622844B1 (ja)
JP (1) JP5657802B2 (ja)
KR (1) KR101451049B1 (ja)
CN (1) CN103181159B (ja)
WO (1) WO2012044468A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9319578B2 (en) 2012-10-24 2016-04-19 Alcatel Lucent Resolution and focus enhancement
US9344736B2 (en) 2010-09-30 2016-05-17 Alcatel Lucent Systems and methods for compressive sense imaging
US9277139B2 (en) * 2013-01-16 2016-03-01 Inview Technology Corporation Generating modulation patterns for the acquisition of multiscale information in received signals
EP3162073A1 (en) 2014-06-30 2017-05-03 Alcatel Lucent Compressive sense imaging
US10440376B2 (en) 2017-01-05 2019-10-08 Nokia Of America Corporation Compressive sensing with joint signal compression and quality control
JP7014105B2 (ja) * 2018-09-04 2022-02-01 日本電信電話株式会社 アナログ・デジタルコンバータ
JP7395490B2 (ja) 2018-09-28 2023-12-11 株式会社半導体エネルギー研究所 画像処理方法、プログラム、及び撮像装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11136503A (ja) * 1997-10-27 1999-05-21 Nikon Corp 画像入力装置
JP2003511920A (ja) * 1999-10-05 2003-03-25 カリフォルニア インスティテュート オブ テクノロジー 能動画素センサによる時間遅延積分画像形成
JP2005205751A (ja) * 2004-01-23 2005-08-04 Fuji Xerox Co Ltd 画像形成装置
JP2010157804A (ja) * 2008-12-26 2010-07-15 Olympus Corp 撮像装置
JP2011097568A (ja) * 2009-10-02 2011-05-12 Sanyo Electric Co Ltd 撮像装置

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3775602A (en) * 1972-06-29 1973-11-27 Us Air Force Real time walsh-hadamard transformation of two-dimensional discrete pictures
US5070403A (en) * 1989-04-21 1991-12-03 Sony Corporation Video signal interpolation
US5166788A (en) * 1990-06-29 1992-11-24 Samsung Electronics Co., Ltd. Motion signal processor
US5262854A (en) * 1992-02-21 1993-11-16 Rca Thomson Licensing Corporation Lower resolution HDTV receivers
US5572552A (en) * 1994-01-27 1996-11-05 Ericsson Ge Mobile Communications Inc. Method and system for demodulation of downlink CDMA signals
JP2816095B2 (ja) * 1994-04-26 1998-10-27 三洋電機株式会社 ビデオカメラの信号処理回路
JPH0954212A (ja) 1995-08-11 1997-02-25 Sharp Corp 位相差フィルム及びその製造方法、並びに液晶表示素子
FR2753330B1 (fr) 1996-09-06 1998-11-27 Thomson Multimedia Sa Procede de quantification pour codage video
US5870144A (en) 1997-03-28 1999-02-09 Adaptec, Inc. Reduced-quality resolution digital video encoder/decoder
US20030043918A1 (en) * 1999-12-20 2003-03-06 Jiang Hong H. Method and apparatus for performing video image decoding
KR20020019563A (ko) * 2000-05-23 2002-03-12 요트.게.아. 롤페즈 워터마크 검출
DE60114651T2 (de) 2001-12-14 2006-06-01 Stmicroelectronics S.R.L., Agrate Brianza Verfahren zur Kompression von im Farbfilteranordnungsformat (CFA) aufgenommenen digitalen Bildern
KR20040067086A (ko) * 2003-01-21 2004-07-30 엘지전자 주식회사 자동 화이트 밸런스 조정 장치 및 방법
SG140441A1 (en) 2003-03-17 2008-03-28 St Microelectronics Asia Decoder and method of decoding using pseudo two pass decoding and one pass encoding
US7680356B2 (en) * 2003-10-14 2010-03-16 Thomson Licensing Technique for bit-accurate comfort noise addition
EP1578134A1 (en) * 2004-03-18 2005-09-21 STMicroelectronics S.r.l. Methods and systems for encoding/decoding signals, and computer program product therefor
US7532772B2 (en) 2004-07-20 2009-05-12 Duke University Coding for compressive imaging
EP1668384B1 (en) * 2004-09-17 2008-04-16 Matsushita Electric Works, Ltd. A range image sensor
TWI301953B (en) * 2005-03-14 2008-10-11 Qisda Corp Methods and apparatuses for video encoding
WO2006116134A2 (en) * 2005-04-21 2006-11-02 William Marsh Rice University Method and apparatus for compressive imaging device
US20070285554A1 (en) 2005-10-31 2007-12-13 Dor Givon Apparatus method and system for imaging
US8125883B2 (en) * 2006-03-17 2012-02-28 Jocelyn Aulin OFDM in fast fading channel
US8619854B2 (en) * 2006-03-27 2013-12-31 Electronics And Telecommunications Research Institute Scalable video encoding and decoding method using switching pictures and apparatus thereof
US7345603B1 (en) 2006-11-07 2008-03-18 L3 Communications Integrated Systems, L.P. Method and apparatus for compressed sensing using analog projection
US8213500B2 (en) 2006-12-21 2012-07-03 Sharp Laboratories Of America, Inc. Methods and systems for processing film grain noise
FR2917872A1 (fr) 2007-06-25 2008-12-26 France Telecom Procedes et dispositifs de codage et de decodage d'une sequence d'images representee a l'aide de tubes de mouvement, produits programme d'ordinateur et signal correspondant.
US8204126B2 (en) * 2008-01-10 2012-06-19 Panasonic Corporation Video codec apparatus and method thereof
KR101432775B1 (ko) 2008-09-08 2014-08-22 에스케이텔레콤 주식회사 서브블록 내 임의 화소를 이용한 영상 부호화/복호화 방법 및 장치
US8300113B2 (en) * 2008-10-10 2012-10-30 Los Alamos National Security, Llc Hadamard multimode optical imaging transceiver
US9634690B2 (en) 2010-09-30 2017-04-25 Alcatel Lucent Method and apparatus for arbitrary resolution video coding using compressive sampling measurements
US9020029B2 (en) * 2011-01-20 2015-04-28 Alcatel Lucent Arbitrary precision multiple description coding

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11136503A (ja) * 1997-10-27 1999-05-21 Nikon Corp 画像入力装置
JP2003511920A (ja) * 1999-10-05 2003-03-25 カリフォルニア インスティテュート オブ テクノロジー 能動画素センサによる時間遅延積分画像形成
JP2005205751A (ja) * 2004-01-23 2005-08-04 Fuji Xerox Co Ltd 画像形成装置
JP2010157804A (ja) * 2008-12-26 2010-07-15 Olympus Corp 撮像装置
JP2011097568A (ja) * 2009-10-02 2011-05-12 Sanyo Electric Co Ltd 撮像装置

Also Published As

Publication number Publication date
EP2622844B1 (en) 2017-11-08
WO2012044468A1 (en) 2012-04-05
KR20130048264A (ko) 2013-05-09
JP5657802B2 (ja) 2015-01-21
US20120082205A1 (en) 2012-04-05
CN103181159B (zh) 2016-09-14
EP2622844A1 (en) 2013-08-07
US8644376B2 (en) 2014-02-04
CN103181159A (zh) 2013-06-26
KR101451049B1 (ko) 2014-10-15

Similar Documents

Publication Publication Date Title
JP5657802B2 (ja) 時空間積分を使用してビデオの圧縮測定値を生成するための装置および方法
JP2013539319A5 (ja)
US10136107B2 (en) Imaging systems with visible light sensitive pixels and infrared light sensitive pixels
US8890981B2 (en) Method and apparatus for eliminating crosstalk amount included in an output signal
JP6141587B2 (ja) レンズシェーディング補正ファクタの算出方法及びそれを用いたレンズシェーディング補正方法及び装置
US10497095B2 (en) Dual-sensor hyperspectral motion imaging system
JP5859080B2 (ja) イメージのカラーアーチファクトを補正する方法と関連装置
KR20130002701A (ko) 렌즈 쉐이딩 보정 팩터 산출 방법 및 그것을 이용한 렌즈 쉐이딩 보정 방법 및 렌즈 쉐이딩 보정 장치
US9398273B2 (en) Imaging system, imaging apparatus, and imaging method
CN114189665A (zh) 图像生成装置及拍摄装置
JP2016208093A5 (ja)
US11743480B2 (en) Imaging apparatus and imaging system
JP6355595B2 (ja) 撮像素子、撮像装置、撮像素子の制御方法、プログラムおよび記憶媒体
JP2015185943A (ja) フィルタアレイ付マイクロレンズおよび固体撮像装置
CN107710741B (zh) 一种获取深度信息的方法及摄像装置
KR20060065099A (ko) Dct 계수를 이용한 카메라의 자동초점조절장치 및 그방법
CN108696728B (zh) 图像生成装置、拍摄装置及拍摄系统
US10593717B2 (en) Image processing apparatus, image processing method, and imaging apparatus
JP6135865B2 (ja) 撮像システム、撮像装置、および撮像方法
GB2563627A (en) Image processing
CN109429021B (zh) 用于生成高动态范围图像的高动态范围成像设备和方法
US20240107134A1 (en) Image acquisition apparatus and electronic apparatus including same, and method of controlling image acquisition apparatus
Yamashita et al. Wide-dynamic-range camera using a novel optical beam splitting system
KR20210137886A (ko) 이미지 센서
CN116017181A (zh) 一种可提高分辨率的线阵图像传感器的像素排列方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130528

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140206

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140425

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20140425

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141118

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141126

R150 Certificate of patent or registration of utility model

Ref document number: 5657802

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250