JP6482012B2 - 一体化された圧縮センシングを有する読み出し集積回路 - Google Patents

一体化された圧縮センシングを有する読み出し集積回路 Download PDF

Info

Publication number
JP6482012B2
JP6482012B2 JP2017502722A JP2017502722A JP6482012B2 JP 6482012 B2 JP6482012 B2 JP 6482012B2 JP 2017502722 A JP2017502722 A JP 2017502722A JP 2017502722 A JP2017502722 A JP 2017502722A JP 6482012 B2 JP6482012 B2 JP 6482012B2
Authority
JP
Japan
Prior art keywords
roic
photodetector
image data
csmms
array
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017502722A
Other languages
English (en)
Other versions
JP2017522815A (ja
Inventor
ギボンズ,ロバート,シー
デンハム,マーティン,エス
ブーヴィル,エリック,ジェイ
フルッキガー,デヴィッド,ユー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Raytheon Co
Original Assignee
Raytheon Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Raytheon Co filed Critical Raytheon Co
Publication of JP2017522815A publication Critical patent/JP2017522815A/ja
Application granted granted Critical
Publication of JP6482012B2 publication Critical patent/JP6482012B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/3059Digital compression and data reduction techniques where the original information is represented by a subset or similar information, e.g. lossy compression
    • H03M7/3062Compressive sampling or sensing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/917Television signal processing therefor for bandwidth reduction
    • H04N5/919Television signal processing therefor for bandwidth reduction by dividing samples or signal segments, e.g. television lines, among a plurality of recording channels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/513Sparse representations

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Image Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

焦点面アレイ(FPA)は、過去数十年にわたって光検出器アレイの寸法が指数関数的に増大してきた。このような光検出器アレイの寸法の増大は、FPAからの画像を捕捉して伝送するために必要とされる電力、帯域幅、および複雑さに対する絶えず増大する要求をもたらしている。帯域幅の問題に対処する従来のアプローチは、ハードウェアまたはソフトウェアのいずれかで実装されたイメージ圧縮の使用を含む。しかしながら、これらのアプローチは、全体画像の収集を必要とし、したがって、帯域幅削減のための処理の前に、FPA内の全ての光検出器のサンプリングを必要とする。収集後にビデオデータを圧縮する伝統的な手法では、面積、電力、アーキテクチャの複雑さのペナルティがある。
実施態様及び実施形態は、一体化された圧縮センシング(CS)を備えたFPAのための読出し集積回路(ROIC)に関する。以下により詳細に説明するように、一体化されたCSを有するROICは、様々なCS方法と一致する光検出器のサンプリングによって、画像全体を表すために使用されるサンプルの数を実質的に減少させる。
一実施形態によれば、一体化された圧縮サンプリングを有する読み出し集積回路(ROIC)が提供される。一体化されたCSを有するROICは、複数の光検出器を含む光検出器アレイに結合するための入力と、光検出器アレイに操作可能に接続されたCSコンポーネントとを含む。CSコンポーネントは、少なくとも1つのコード化された測定値のベクトルを含む圧縮サンプリング測定マトリックス(CSMM’s)のセットに基づいて光検出器値の複数の和を生成することにより、圧縮画像データを生成し、その圧縮画像データを、例えば信号処理装置へ出力するように構成されている。
一実施形態によれば、複数の光検出器は、行アドレスおよび列アドレスによって個別にアドレス可能である。一実施形態によればコード化された測定値の少なくとも1つのベクトルは、擬似乱数源(メモリ又は乱数生成器であり得る)によって生成される。一実施形態によれば、複数の光検出器は複数の領域にセグメント化され、複数の領域の各々は光検出器の少なくとも1つのグループを含む。
一実施形態によれば、複数の領域の少なくとも1つの領域は、1の圧縮率を有する。一実施形態によれば、少なくとも1つの光検出器のグループは、少なくとも4×4の光検出器のマトリックスを含み、CSコンポーネントは、コード化された測定値の少なくとも1つのベクトルに基づいて少なくとも1つのグループの光検出器の少なくとも1つのサブセットを選択的に読み取ることに基づいて複数の和を並列に計算し、複数の和をコード化された集合に集約し、コード化された集合を圧縮画像に格納するように、さらに構成される。一実施形態によれば、CSコンポーネントは、さらに、圧縮画像に測定コードの少なくとも1つのベクトルを格納するように構成されている。一実施形態によれば、コード化された測定コードの少なくとも1つのベクトルは、10進数のゼロ及び10進数の1の少なくとも1つを含む。一実施形態によれば、少なくとも1つのグループは、第1のグループ及び第2のグループであり、圧縮画像データは、第1のグループの少なくとも1つのコード化された集合及び第2のグループの少なくとも1つのコード化された集合をそれぞれ含む。
一実施形態によれば、圧縮画像データは、コード化された集合の総数を含み、この総数は、複数の光検出器のそれぞれの各光検出器が測定された場合の潜在的光検出器値の部分の数の合計である。
一実施態様によれば、FPA撮像システムが提供される。FPA撮像システムは、メモリと、メモリに結合された少なくとも1つのプロセッサと、複数の光検出器を含む光検出器アレイと、少なくとも1つのプロセッサ及び光検出器アレイに結合された一体化されたCSを有するROICと、圧縮画像データに基づいて少なくとも1つの画像を再構成するように少なくとも1つのプロセッサに命令するように構成された画像再構成エンジンとを含む。一体化されたCSを有するROICは、コード化された測定値の少なくとも1つのベクトルを含む圧縮サンプリング測定マトリックス(CSMM’s)のセットに基づいて光検出器値の複数の和を生成することによって圧縮画像データを生成し、圧縮画像を少なくとも1つのプロセッサへ出力するように構成されている。
一実施形態によれば、圧縮画像データは、少なくとも1つのコード化された集合を含む。一実施形態によれば、少なくとも1つのコード化された集合は、複数の領域の少なくとも1つの領域を表す。一実施形態によれば、圧縮画像データは、測定コードの少なくとも1つのベクトルを含む。一実施形態によれば、少なくとも1つの領域は第1の領域及び第2の領域であり、再構成エンジンは、第1の領域及び測定コードの少なくとも1つのベクトルに基づいて第1の画像を再構成し、第2の領域および測定コードの少なくとも1つのベクトルに基づいて第2の画像を再構成するように、少なくとも1つのプロセッサに命令するようにさらに構成されており、前記第1の画像と前記第2の画像とは並行して再構成され、前記第1の画像と前記第2の画像とを結びつける。一実施形態によれば、少なくとも1つのプロセッサは、グラフィック処理ユニット(GPU)及びフィールドプログラマブルゲートアレイ(FPGA)のうちの少なくとも1つである。
少なくとも1つの実施態様によれば、一体化された圧縮サンプリング(CS)を有する読み出し集積回路(ROIC)が提供される。ROICは、複数の光検出器を含む光検出器アレイに結合するための入力と、光検出器アレイの少なくとも一部をサンプリングするサンプリングパターンをそれぞれ表す複数の圧縮サンプリング測定マトリックス(CSMMs)を生成するように構成されたマスク生成器及び制御コンポーネントと、入力及びマスク生成器及び制御コンポーネントに結合された計算素子アレイと、を含む。計算素子アレイは、光検出器アレイから複数の光検出器値を受信し、マスク生成器及び制御コンポーネントからCSMMを受信し、複数のCSMMと一致する光検出器アレイをサンプリングすることによって圧縮画像データを生成し、圧縮画像データを少なくとも1つのプロセッサに提供するように構成されている。
一実施形態では、計算素子アレイは、それぞれが論理コアに結合されたメモリを含む複数の計算素子を含む。メモリは、例えば、2ポートスタティックランダムアクセスメモリ(SRAM)を含むことができる。メモリは圧縮画像データを格納し、論理コアは圧縮画像データを決定するように構成されることができる。ROICは、複数の計算素子の各計算素子に複数の光検出器値の少なくとも一部を導くように構成されたブロックマッピングコンポーネントをさらに含むことができることが理解される。
一実施形態では、マスク生成器及び制御コンポーネントは、疑似乱数生成器及び固有乱数生成器のうちの少なくとも1つを含む。一実施形態では、マスク生成器及び制御コンポーネントはメモリを含み、マスク生成器及び制御コンポーネントは、メモリから少なくとも1つの格納されたCSMMを読み取ることによって少なくとも部分的に複数のCSMMを生成する。一実施形態では、複数のCSMMのそれぞれは、10進数のゼロ、10進数の1、及び、10進数の−1のうちの少なくとも1つを含む。
一実施形態では、光検出器アレイは複数の部分を含む。一実施形態では、光検出器アレイの複数の部分のうちの1つ又は複数の部分は、1の圧縮率を有する。一実施形態では、計算素子アレイは、複数のCSMMと一致する光検出器アレイの複数の部分を選択的にサンプリングすることによって複数のコード化された集合を並列に計算するようにさらに構成されており、圧縮画像データは複数のコード化された集合を含む。
一実施形態では、ROICは、光検出器アレイから受信した複数の光検出器値をデジタル化するように構成され、入力と計算素子アレイとの間に結合されたアナログ‐デジタル変換器(ADC)をさらに含む。複数の光検出器は複数のデジタル画素を含み、複数の光検出器値は複数の画素値を含むことができることが理解される。
少なくとも1つの実施態様によれば、フォーカルプレーンアレイ(FPA)イメージングシステムが提供される。FPAイメージングシステムは、少なくとも1つのプロセッサと、複数の光検出器を含む光検出器アレイと、読出し集積回路(ROIC)とを含む。ROICは、少なくとも1つのプロセッサと光検出器アレイとの間に結合された一体化された圧縮サンプリング(CS)を有する。ROICは、複数の光検出器の少なくとも一部をサンプリングするサンプリングパターンをそれぞれ表す複数の圧縮サンプリング測定マトリックス(CSMM)を生成し、複数のCSMMs一致する複数の光検出器をサンプリングすることによって圧縮画像データを生成し、圧縮画像データを少なくとも1つのプロセッサに出力するように構成される。
一実施形態では、光検出器アレイは、複数のデジタル画素を含む。一実施形態では、ROICは、複数のCSMMを生成するように構成されたマスク生成器及び制御コンポーネントを含む。一実施形態では、マスク生成器及び制御コンポーネントは、疑似乱数生成及び固有乱数生成器の少なくとも1つを含む。
一実施形態では、ROICは、論理コアに結合されたメモリを含み圧縮画像データを生成するように構成された計算素子アレイを含む。一実施形態では、FPAは、圧縮画像データに基づいて少なくとも1つの画像を再構成するように少なくとも1つのプロセッサに命令するように構成された画像再構成エンジンをさらに含む。
さらに他の実施態様、実施形態、実施例、及び利点については、以下で詳細に説明する。ここで開示された実施形態及び/又は実施例は、ここで開示された少なくとも1つの原理と一致する任意の方法で、他の実施形態及び/又は実施例と組み合わせることができる。また、「実施形態」、「いくつかの実施形態」、「代替形態」、「様々な実施形態」、「一実施形態」、「実施例」、「いくつかの実施例」、「代替実施例」、「様々な実施例」、「一実施例」、又は、同様のもの、として言及されたものは、必ずしも相互に排他的ではなく、記載された特定の特徴、構造、又は特性が、少なくとも1つの実施形態及び/又は実施例に含まれてもよいことを理解されたい。ここでのそのような用語の出現は、必ずしもすべてが同じ実施形態及び/又は実施例を参照するとは限らない。
少なくとも1つの実施形態の様々な実施態様を、添付の図面を参照して以下に説明する。図面は、縮尺通りに描かれることを意図しない。図面は、様々な実施態様及び実施形態の例示及びさらなる理解を提供するために含まれ、本明細書に組み込まれ、一部を構成するが、本発明の限定の定義を意図するものではない。図面において、様々な図に示されている同一又はほぼ同一のコンポーネントは、同様の符号が付されている。わかりやすくするために、全ての図で全てのコンポーネント同じ符号が付されているわけではない。
本発明の実施態様によるFPA撮像システムの一例のブロック図である。 本発明の実施態様による例示的なFPA撮像システムのブロック図である。 本発明の実施態様による例示的なFPA撮像システムのブロック図である。 本発明の実施態様による例示的な測定マトリックスのセットのブロック図である。 本発明の実施態様によって取り込まれた画像に関連する光検出器値の例示的なマトリックスを示すブロック図である。 圧縮センシングの例示的な方法を示すフローチャートである。 画素値にマスクを適用する例示的な方法を示すフローチャートである。
画像解像度にほとんど影響を与えずに、消費電力を維持又は低減し及び/又はフレームレートを増加させながら、イメージングシステムのビデオ出力帯域幅の要求を低減する必要がある。これらの実施態様は、コンパクトなビデオ記憶装置及び無線伝送の実施に特に関連し得る。したがって、実施態様及び実施形態は、ROICが圧縮画像データを生成することを可能にする一体化オンチップ圧縮センシング(CS)を備えた読み出し集積回路(ROIC)を対象とする。例えば、一体化CSを有するROICは、複数の光検出器を含む光検出器アレイに結合され、様々なCS技術と一致する光検出器アレイによって取得された画像を表す圧縮画像データを生成することができる。
CSは、信号の「情報レート」が信号の帯域幅によって示唆されるよりも著しく小さいという意味で、多くのビデオ信号又は画像信号を含む多くの信号が「疎」であるという事実を利用する。信号が適切なバイアス又はドメインで表されるとき、多くの係数はゼロに近いか又はゼロに等しくてもよい。信号が、あるドメインにおいて疎である場合、シャノン−ナイキストサンプリング定理の古典的な要求に従う必要はない。したがって、信号は、信号全体を取り込むために必要なデータと比較して、ごく少量のデータを使用することがある疎サンプリングセットによって表すことができる。特定の実施形態によれば、ROIC上の圧縮センシングは、推定された画像信号の希薄さを利用し、元の画素値の代わりに圧縮画像データを提供する。
画像圧縮は、光検出器アレイ内の画素の総数のパーセンテージであるX×Yの次元をそれぞれ有する測定マトリックス(例えば、マスク)のセットを使用することによって達成され得る。例えば、光検出器アレイが640×480画素を有する場合、光検出器アレイは、概念的に、それぞれ32×32画素(各矩形領域内で合計1024画素位置)である複数の矩形領域に分割されてもよい。そうすると、640×480の光検出器アレイをカバーするために、32×32画素の領域が20×15だけ存在することになる。10%の圧縮が望まれる場合、1024個の画素位置は102個の測定マトリックス(例えば、0。10×1024画素位置)によってサンプリングされる。102個の測定マトリックスの各測定マトリックスは、サンプリングされている領域の寸法(例えば、32×32)に等しい寸法を有し、各位置に「1」又は「0」を含むことができる。102個の測定マトリックスの各々は、コード化された集合を決定するために画素値のセット(例えば、32×32)に適用される。コード化された集合は、測定マトリックスが「1」を含む全ての画素位置からの画素値の和を含むことができる。したがって、測定マトリックスの各々は、1つのコード化された集合値(例えば、102個の測定マトリックスに対する102個のコード化された集合)を提供する。102個のコード化された集合値は、オリジナルの1024個の値の代わりにROICから送信され、結果として元のサイズの約10%(90%削減)になる。測定マトリックス内の「1」と「0」との間の分布は、1つ又は複数の所定の基準を満たすことができることが好ましい。例えば、102個の測定マトリックスのセットは、各画素位置に「1」のパーセンテージを必要とすることがある。いくつかの実施形態では、102個の測定マトリックスの50%が任意の所与の画素位置(例えば、[1,1])に「1」を含むことができる。換言すると、各画素値は、102個のコード化された集合の50%に含まれてもよい。別の実施例では、画素値の所与のブロックに適用される各測定マトリックスのパワースペクトル密度は、定数(例えば、白色)に近くてもよい。
実施態様及び実施形態は、画像圧縮がROIC上で直接実行されるように、一体化CSを有する焦点面アレイ(FPA)のためのROICを対象とする。特に、特定の実施形態は、FPAの光検出器のコード化された集合がサンプリングされ、その結果得られる出力がこのサンプリングされた光検出器のデジタル的にエンコードされた集合である、一種のROICを対象とする。コーディングは、ROIC上のデジタルドメインで完全に実施されてもよく、コレクションコントロール及びタイミングは、以下でさらに説明するように、デジタル制御されてもよい。さらに、以下でさらに述べるように、いくつかの実施態様は、データ測定値が順次取得される従来のポストコレクション圧縮センシングアプローチとは異なり、サンプリングされた光検出器値とそれらの固有のエンコードとの和の並列取得を含む。実施態様及び実施形態によって提供される技術的利点は、従来のアーキテクチャと比較して、所与の数の光検出器に対してオンチップCSを有するROICのダイサイズ、実行可能性、コスト、パフォーマンス、帯域幅使用及び電力消費の改善を含む。このアプローチは、帯域幅を本質的に節約し、一部のアプリケーションでは、ROICの電力消費も削減する。
図1は、FPA撮像システム100の一例を示すブロック図である。FPA撮像システム100は、光検出器アレイ110内に配置され、入射光102を受光するように構成された複数の光検出器112を含む検出デバイス104を含む。FPA撮像システム100は、さらに、ROIC106及び信号プロセッサ108を備える。
一実施形態では、検出デバイス104は、入射光102を受光するために光検出器アレイ110に複数の光検出器112を採用する。光検出器112は、(例えば、電荷結合素子(CCD)センサのような)電荷を蓄積することができる、又は、(例えば、相補型金属酸化物半導体(CMOS)センサのような)光検出器112に入射する光に応答して電流及び/又は電圧を生成することができる感光装置である。光検出器112は、例えば光起電力検出器、バリアデバイス検出器、位置感応検出器(PSD)、又は、他の適切な検出器を含むことができる。各光検出器112は、固有のアドレス(例えば、行及び列の値)に基づいて個別にアドレス指定されてもよい。光検出器アレイ110は、デジタル化された画像データを例えばROIC106に提供するデジタル画素を含むことができることが理解される。
いくつかの実施形態では、ROIC106が検出デバイス104に結合される。ROIC106は、例えば、検出デバイス104から蓄積された電荷又は電流及び/又は電圧信号を受信し、受信した信号をデジタルプロセッサによる受領のためにデジタル化しうる。ROIC106は、画像を表す受信情報を、例えば信号プロセッサ108に出力することができる。ROIC106は、検出デバイス104からデジタル化された画像情報を受信することができ、したがって、アナログ−デジタル変換機能を提供できることが理解される。
いくつかの実施形態では、ROIC106は、CSコンポーネントを含む。これらの実施形態では、ROIC106は、様々なCS技法と一致する光検出器112によって取り込まれた画像を表す圧縮画像データを生成し、例えば信号プロセッサ108に圧縮画像データを提供することができる。CSコンポーネントをROIC106に一体化することにより、光検出器112のサンプリングと圧縮が同時に行われる設計が達成され、画像データを捕捉して伝送するための電力と帯域幅を比例して増加させることなく、より多くの光検出器112を利用することが可能になる。CSコンポーネントを備えたROIC106の例示的な実装については、図2A及び図2Bを参照して以下でさらに説明する。
一実施形態では、信号プロセッサ108がROIC106に結合され、検出デバイス104上の入射光102を表すデジタル化された情報をROIC106から受信する。ROIC106から受信されるデジタル化された情報は、例えば様々な圧縮検知方法と一致する圧縮画像情報を含むことができる。信号プロセッサ108は、取り込まれた画像を再構成し、圧縮画像情報を分析し、圧縮画像情報を外部システムに送り、及び/又はFPAイメージングシステムの様々なコンポーネント(例えば回転鏡)を管理する。信号プロセッサ108は、汎用プロセッサ又は専用プロセッサ(例えば、デジタル信号プロセッサ)であってもよい。信号プロセッサ108は、例えば、ビデオ処理ユニット、グラフィック処理ユニット、埋め込みプロセッサ、単一命令、多重データデジタル信号プロセッサ(SIMD DSP)、及び内部メモリ(図示せず)などの他の機能コンポーネントを含むことができる。信号プロセッサ108の機能性は、ROIC106内に含まれてもよく、及び/又は、ROIC106によって実行されてもよいことが理解される。
図2Aは、ROIC106に組込まれたCSコンポーネントを有するFPAイメージングシステム200Aの一例を示す。FPAイメージングシステム200Aの例は、検出デバイス104、ROIC106、及び信号プロセッサ108を含む。図2Aに示すように、ROIC106は、ブロック・マッピング・コンポーネント204、計算素子アレイ206、マスク・ジェネレータ及び制御コンポーネント208、及びオプションのアナログ・デジタル変換器(ADC)202を含む。
いくつかの例では、検出デバイス104は、それぞれの光検出器(例えば、光検出器112)に入射する光の強度及び/又は特性を表すアナログ光検出器値を提供することができる。これらの例では、ROIC106は検出デバイス104に結合されたADC202を含み、ADC202は検出デバイス104から受け取ったアナログ光検出器値をデジタル化してデジタル画素値を生成する。ADC202は、列ADCを含むことができ、この列ADCは、例えば、アナログ光検出器値の1つ又は複数の列を一度にデジタル化するように構成される。ADC202は、デジタル画素又はデジタル画素値を提供する他のタイプの検出デバイス104を使用する例では省略されてもよいことが理解される。
図2Aに示すように、FPAイメージングシステム200Aは、計算素子アレイ206に結合されたブロック・マッピング・コンポーネント204を含む。ブロック・マッピング・コンポーネント204は、計算素子アレイ206内の適切な計算素子へ、検出デバイス104(及び/又はADC202)から受信したデジタル画素値を導く。ブロック・マッピング・コンポーネント204は、例えば、デジタル画素値をブロックのセットに分割し、各ブロック(又は各ブロックの一部)を計算素子アレイ206の特定の計算素子に導くことができる。ブロック・マッピング・コンポーネント204は、例えば、デジタル化された画素値の所与のブロック(又はその一部)に対するターゲット計算素子を変更するように再構成可能なプログラム可能なマニホールドを含むことができる。画素値をブロックのセットに分割し、各ブロックを計算素子に導くことで、ROIC106が1つの画像の複数のサブセクションを同時に圧縮することができるようにし、それによって1つの画像を圧縮するのに必要な時間を短縮することができる。図2BのFPAイメージングシステム200Bに示されるように、ブロック・マッピング・コンポーネント204なしで、画像は複数のサブセクションに分割されてもよいことが理解される。検出デバイス104又はADC202と計算素子アレイ206との間の相互接続は、計算素子アレイ206の予め選択された計算素子に画像の特定の場所のデジタル画素値を出力するように配線で接続されてもよい。
ブロックのサイズは、例えば、所望の圧縮率(CR)、再構成画像の所望の品質、及び/又はROIC106のハードウェア制約を含む任意の数の設計パラメータに基づいて選択されてもよい。本明細書で使用されるCRは、非圧縮データサイズと圧縮データサイズとの比として定義される。CRは単純に非圧縮サイズを圧縮サイズで割ったものである。たとえば、画像の元のサイズが1000Mバイトで、圧縮サイズが100Mバイトの場合、CRは10(1000Mバイト/100Mバイト=10)である。いくつかの例では、各ブロックに含まれる光検出器112の数を増やすことができる。例えば、ブロックサイズは、光検出器アレイ110と同じサイズに設定されてもよい。他の例では、ブロックは、CRを最適化するサイズにスケーリングされ、光検出器アレイ110のフルサイズより小さい。例えば、256×256のブロックサイズは、画像品質を著しく損なうことなく、10のCRを可能にすることができる。光検出器アレイ110より小さいブロックサイズを使用することは、ROIC106による個々の光検出器グループの並列圧縮を可能にし、それによって画像を圧縮するため計算時間を短縮することもできる。圧縮時間の短縮により、ROIC106は、例えば、ライブビデオストリームのフレームを圧縮することができる。1つの例示的な検出デバイス104に関する、ブロックサイズ構成の例を以下の表1に示す。
Figure 0006482012
表1は、320行240列のグリッド内の76,800個の総画素を有する検出デバイスの4つの可能なブロックサイズ構成を示す。第1の構成では、選択されるブロックサイズは、合計16画素を含む4×4画素の正方形である。16画素のブロックは、4×4の寸法を備える4つの別々の2次元測定マトリックスによって4回サンプリングされる。測定マトリックスは、「ロードマップ」を提供することができ、その(例えば、光検出器アレイ110の光検出器112の)デジタル画素値のために、ROIC106がコード化された集合を生成するためにサンプリング及び合計する必要がある。たとえば、測定マトリックスは、コード化された集合サンプルを形成するために合計16個の画素値のうちのどの画素値が合計される必要があるかを指示することができる。例示的な測定マトリックスのセットが図3に示されており、以下でさらに詳細に説明される。4つのコード化された集合値は、全体画像を取り込むために、19,200のコード化された集合サンプルを得る4,800個の16画素のブロックの各々に対して生成されうる。4つの測定マトリックスをブロックの各々に適用することは、ROIC106によって実行されるべき307,200の操作(例えば、加算及び/又は減算計算)を必要とする。結果として得られる圧縮画像データは、(76,800画素値に対して)19,200のコード化された集合サンプルを含み、約4のCRをもたらす(例えば、76,800/19,200)。後の構成(例えば、第2、第3、及び第4の構成)は、4×4平方の画素値から32×32画素値のブロックサイズまでのブロックサイズを増加させる効果を示す。表1に示すCRは、例えば、圧縮画像をデコードするために必要とされるオーバーヘッド情報を説明するために、いくつかの実装形態においてわずかに低くてもよいことが理解される。いくつかの実施形態では、測定マトリックスは、圧縮画像データとして、コード化された集合サンプルと共に、送信されてもよい。他の実施形態では、コード化された集合のみが圧縮画像データとして伝送されてもよい。これらの実施形態では、ターゲットデバイス(例えば、圧縮画像データを受信するデバイス)は、すでに測定マトリックスのコピーを有していてもよいし、及び/又は、予め決定されたシードに基づいて測定マトリックスを生成することもできる。
表1に示すように、様々なブロックサイズが、ROIC106の所望の性能及び/又はハードウェア制約に基づいて、ROIC106の任意の特定の実装に使用されうる。例えば、より大きなブロックサイズは、より良好な画像再構成結果を提供する。なぜなら、画素値の所与のブロックに適用される各測定マトリックス(例えば、マスク)のパワースペクトル密度が定数(例えば、白色)に近い場合があるからである。しかしながら、これらのより大きいブロックサイズは、画像を圧縮するためにROIC106によって実行される追加の操作を必要とする可能性があり、したがってより早いROIC106が必要である及び/又はより遅い速度で画像を処理する。対照的に、より小さいブロックサイズを選択することは、ROIC106によって要求される動作の総数を実質的に減少させ、ROIC106がより遅い周波数で動作し、及び/又はより高いフレームレートで画像フレームを処理することを可能にする。
いくつかの例では、ROIC106は、上記のようにブロックの一部に測定マトリックスを適用し、残りのブロックを圧縮しないままにしてもよい。別の言い方をすれば、ROIC106は、残りのブロックについて非圧縮画像データを提供することができる。例えば、ROIC106は、関心領域に関連する画像データを取り込んでいる画素値のグループを圧縮しなくてもよい。別の例では、ROIC106によって処理される画像は、60Hzのビデオストリームの一部である。この例では、ROIC106は、画素値のアレイを60個のブロックに分割し、各フレーム内の60個のブロックのうちの59個を(ここで説明するCS技術を使用して)圧縮し、最後のブロックを圧縮しないままにすることができる。圧縮されていない特定のブロックは、各ブロックの単一バージョンが毎秒圧縮されずに(例えば、60フレームごとに)送信されるように、各フレームにおいて変化することができる。これにより、ROIC106は、毎秒フル解像度の画像を送信することができる。非圧縮のままにするために、画像の様々な部分を選択するための、他の方法が採用されてもよいことが理解される。
上述したように、CSは測定のランダムセットを実行し、情報が「疎」であることに基づいて「情報」(例えば、非繰り返し画素値)を確実に検出するのに効果的である。ROIC106において、計算素子アレイ206内の計算素子は、測定マトリックス(例えば、マスク)と一致するデジタル画素値のサンプリングを実行することができる。図3は、例えばマスク生成器及び制御コンポーネント208によって、生成され、計算素子アレイ206によって画素値に適用される測定マトリックス300のセットの例を示す。測定マトリックス300のセットは、4つの2次元マトリックスを含み、2次元マトリックスはそれぞれ、測定コードベクトル304,306,308、及び310と、さらに、複数の測定コード302とを含む。2次元測定マトリックスのそれぞれは、サンプリングされる画像のセクションと同じ(又は類似の)寸法を備えることができ、各測定コード302は、画素値に対応することができる。計算素子アレイ206の各計算素子は、測定マトリックスのコード化された集合値を生成するために、対応する測定コード302が「1」である画素値を加算し、対応する測定コード302が「0」である画素値を無視することによって、画素値のブロックに測定マトリックスを適用することができる。測定マトリックスは、図3に示すように「0」及び「1」以外の10進値から形成されてもよいことが理解される。例えば、測定マトリックスは、「0」、「1」及び「−1」、又は、「1」及び「−1」の値によって形成されてもよく、「−1」は、コード化された集合を生成するために、対応する画素値が減算(加算の反対)されたことを示す。
計算素子アレイ206は、測定マトリックス300のセット内の各測定マトリックスに対してコード化された集合を提供することができる。例えば、計算素子アレイ206は、測定マトリックス300のセットによって示される4つのマトリックスに対して4つのコード化された集合を提供することができる。コード化された集合を及び対応する測定マトリックスは、ROIC106例えば信号プロセッサ108によって提供される圧縮画像データを形成しうる。他の実施例では、圧縮画像データは、コード化された集合をと、測定マトリックスを生成するためのシードとを含むことができる。さらに他の例では、コード化された集合が計算されたFPAの動作モード、FPAの領域定義、サンプリングされたブロックサイズ、CR、及び、領域情報に関するパラメータを含む、圧縮画像データ内のコード化された集合に、1つ又は複数のパラメータが含まれうる。圧縮画像データは、様々な値の組み合わせを含むことができることが当業者には理解されよう。
図4は、計算素子アレイ206によって測定マトリックス300のセットと結び付けられることができる画素値400の例示的なマトリックスを示す。画素値のマトリックス400は、光検出器アレイ110の光検出器112からの画像情報とそれぞれ関連する複数の値を含む。画素値のマトリックス400は、画素値列404,406,408及び410を含むことができる。計算素子アレイ206は、1の値を得るために、第1の測定コードベクトル304と第1の画素値列を結び付けることができる。第2の画素値列406は、12の値を得るために、第2の測定コードベクトル306と結び付けられてもよい。第3の画素値列408は、0の値を得るために、第3の測定コードベクトル308と結び付けられてもよい。第4の画素値列410は、9の値を得るために、第4の測定コードベクトル310と結び付けられてもよい。1、12、0、及び9の列方向の集合値は、測定マトリックス300のセットの第1の測定マトリックスに対して22のコード化された集合値の総計を得るために合計されうる。計算素子アレイ206は、4つのコード化された集合値のセットを得るために、画素値400のマトリックスを有する測定マトリックス300のセット内の一連の測定マトリックスを有するコード化された集合の計算を続けうる。測定マトリックス300は、画素値400のマトリックス内の各画素値が少なくとも1つのコード化された集合に含まれるように構成されてもよいことが理解される。例えば、測定マトリックスのセットの少なくとも1つのマトリックスは、マトリックスの各位置に「1」を含むことができる(例えば、[1,1])。他の例では、測定マトリックスは、各画素値がコード化された集合の所定の一部に含まれるように構成することができる。例えば、コード化された集合の50%の各画素値が含まれる測定マトリックスのセットを構成することができる。
上述したように、測定マトリックス300は、例えば光検出器アレイ110からサンプリングすべき光検出器112を示す測定コード302を含む。いくつかの例では、複数の測定値は、測定マトリックス300に基づいて光検出器アレイ110上に並列に実行される。例えば、第1の並列測定値は第1の測定コードベクトル304に基づいており、第2の並列測定値は第2の測定コードベクトル306に基づいている。第1の測定及び第2の測定に続いて、測定された光検出器値の総和が集計されうる。他の例では、各測定は順次(例えば、連続的に)行われる。光検出器112の測定は、N回実行され、他の方法で計算されてもよいことを理解されたい。例えば、一実施形態では、実行された各測定からのコード化された集合は、単一の重み付されたコード化された集合を生成するために平均化され及び/又は重みづけされうる。さらに、10進値、10進値の総和、及び10進値の集計は、他の方法で表すことができることを理解されたい。例えば、総和は、バイナリ値に基づいてもよく及びそれに適用されるバイナリ算術に基づいてもよい。
マトリックスのためのコード化された集合は、上記の例に示されているように、最初に列ごとに計算される必要はないことが理解される。測定マトリックス及び関連する画素値は、コード化された集合を生成するために、任意の方法でROIC106によって又はわたって横断されてもよい。例えば、ROIC106は、行単位又は列単位のトラバースとは対照的に、最初に深さ方向の方法で測定マトリックスの1セットをトラバースすることができる。測定マトリックスのセットを深さ方向に横切ることは、別の画素値へ移動する前に、最初にそれぞれの画素値(例えば画素値[2,3]の)に対応する測定マトリックス値(例えば測定マトリックス値[2,2,z]〜[2,2,1])の適用によって複数回各画素値(例えば画素値[2,2]のを再訪する必要を排除するため有用である。
上述したように、計算素子アレイ206は、測定マトリックス及び画素値に基づいてコード化された集合を生成する。計算素子アレイ206内の各計算素子は、例えば、論理コアに結合された専用メモリのブロックを含むことができる。各計算素子内のメモリの専用ブロックは、測定マトリックスのセットの各測定マトリックスについての集合コードを格納することができる。専用メモリブロックは、例えば、1つの読み出しポートと1つの書き込みポートを有する2ポートスタティックランダムアクセスメモリ(SRAM)として実装されるレジスタファイルを含むことができる。2ポートSRAMを使用すると、読み書き操作を同時に実行できるため、圧縮速度を改善することができる。この例では、ROIC106は、より低いクロック周波数で動作し、依然として高いフレームレートを生成することができる。例えば、システムは、25MHzのクロックレートを有し、1kHzを超えるレートでフレームを生成することができる。専用メモリの各ブロックに結合された論理コアは、コード化された集合を生成するために、加算及び/又は減算処理を実行することに加えて、マスク値及び/又は画素値を受け取ることができる。論理コアは、例えば、当業者に知られているように、2つのバイナリ値の加算及び/又は減算を実行することができる電気回路を含むことができる。少なくとも1つの例では、論理コアは、例えば、2つのバイナリ値に対する加算及び/又は減算計算を実行する算術論理ユニット(ALU)を含む。メモリの複数の専用ブロックは、いくつかの実装において単一の論理コアを共有してもよいことが理解される。
いくつかの例では、測定マトリックスは「−1」の10進値を含み、それによって、測定マトリックス値が「−1」である場合に、コード化された集合を決定するために論理コアが減算操作を実行することを要求する。これらの実施例において、画素値は2の歩数値として表現され、論理コアは、ビットをインベンティング(例えばフリッピング)し、画素値を負にする値を加算し、その後、負の画素値を実行中のコード化された集合に加算することにより減算操作を実行することができる。それにより、ビットをインベンティングし、2進値を加算することができる論理コアは、コード化された集合を決定するために減算操作を実行できる。
計算素子アレイ206によって使用される測定マトリックスは、マスク生成器及び制御コンポーネント208によって生成されてもよい。マスク生成器及び制御コンポーネント208は、様々なメカニズムのいずれかによって適切なマスクを生成することができる。例えば、マスクのセットは、メモリに格納され、適宜、メモリから検索されてもよい。他の例では、マスクは、ROIC106内のメモリフットプリントを低減するためにオンザフライで生成されてもよい。例えば、マスクは、擬似乱数ジェネレータ又は固有乱数ジェネレータによって生成され、マスクのパワースペクトル密度を一定(例えば、白色)に近づけるためにバランス(例えばフィルタリング)される。別の例では、マスクは、白色(又は白色に近い)測定マトリックスを生成するマスキング関数によって生成することができる。
測定マトリックスは、非ランダム値を含むことができることが理解される。例えば、測定コードの非ランダムベクトルは、初期測定において低周波数サンプリングに重点を置くようにすることができる。この例では、低周波サンプリングは、ROIC上の低減されたリソース需要を伴う初期画像を提供することができる。さらに、低周波サンプリングは、サンプリングされた画像のおおよその「疎さ」を示し、例えば光検出器グループのサイズ、測定コードのランダム性などの後続の計算に使用される。
当業者であれば、本開示の利点を考慮して、圧縮センシングを有するROICは、帯域幅を実質的な規模で大幅に低減することが理解されよう。たとえば、10のCRは、90%だけ圧縮画像を表現又は送信するために必要な帯域幅を低減する。特定のアーキテクチャでは、同様の規模の電力消費の削減が可能である(例えば、より少ないデジタルラインドライバしか必要とされない)。他の場合には、画像解像度にほとんど影響を与えずに全体の焦点面のフレームレートを増加させることが可能である。このような帯域幅の低減要求は、コンパクトビデオストレージ及び無線伝送の実現にとって重要であり得る。
ROIC106は、例えば、CR、ブロックサイズ、及び/又は、サンプルレートを制御するために、1つ又は複数の外部デバイス(たとえば、信号プロセッサ108)によって制御されてもよいことが理解される。いくつかの例では、ROIC106は、再構成画像の内容に基づいてCR及び/又はサンプルレートを動的に変更するための制御信号を受信することができる。例えば、ROIC106のCRは、画像のより高い出力サンプルレート、又は画像内の関心領域(ROI)に適合するように調整することができる。上述のように、10のCRは、帯域幅の90%の削減である。従って、FPA全体又はFPAの特定の領域のCRを調整することは、非常に柔軟な帯域幅管理を可能にする。一例では、他の領域にわたって一定のCRを維持したままで、一定の関心領域のみのCR(及びそれに応じたブロックサイズ)が変更されうる。この例では、画像再構成エンジンは、高サンプルレートROIに関連するデータと組み合わせて低サンプルレート領域の以前に再構成された画像を再利用することによって再構成画像を生成することができる。換言すると、画像再構成エンジンは、あまり頻繁にサンプリングされない領域からの再構成画像を再利用することにより、異なるサンプリング速度の領域に基づいて画像を生成することができる。
いくつかの例では、画像再構成エンジンは、例えば、画像の再構成のための十分なRAMと、メモリと、プロセッサとを有するコンピュータシステム、及び/又は、フィールドプログラマブルゲートアレイ(FPGA)を含む画像再構成装置の一部であってもよい。これらの例では、画像再構成エンジンは、例えば、グラフィック処理ユニット(GPU)を含むプロセッサによって実行されるコンパイルされた命令セットであってもよい。他の例では、画像再構成装置は、再構成された原画像を他のハードウェア装置(例えば、コンピュータシステム、ディスプレイ、デジタルビデオ記録レコーダなど)に出力する集積回路であってもよい。
再構成エンジンは、既知のCS法のレパートリーのいずれかに基づいて画像(又はその一部)を再構成することができる。さらに、画像再構成エンジンは、1つ又は複数の領域、関連するコード化された集合及びその中の測定コードの並列処理に基づいて画像を再構成することができる。この「並列」モードは、単一のプロセッサが画像全体を順次再構成するよりはるかに短い時間で領域ごとに画像を再構成することを可能にする。原画像の領域が再構成されると、それらは、再構成された原画像を形成するために結び付けられる。画像再構成装置は、(たとえば、WiFi(登録商標)、RF、イーサネット(登録商標)などを介して)遠隔ROICから圧縮画像データを受信することができることが理解される。これらの例では、帯域幅及び電力は、ROICから遠隔装置上で原画像の再構成を実行することによって保存される。無線伝送の場合、CSは、ベースバンド帯域幅を減少させる可能性があり、それは、固有の付加的な暗号特性、検出可能性/妨害能力の低減、伝送距離の改善などを含む、無線伝送の数多くの改善をもたらすことができる。これは、関連する地上の受信機を備えた空中FPAを含む様々な用途において有利であり得る。他の実施形態では、画像再構成装置はROICに接続され、通信バスを介して圧縮画像データを受信することができる。
図5を参照すると、圧縮画像データを生成するためのROIC(例えば、ROIC106)によって実行される例示的な圧縮センシングプロセス500が示されている。圧縮センシングプロセス500は、光検出器アレイから受信した画素値に基づいて、例えば信号プロセッサ(例えば、信号プロセッサ108)に提供されるべき圧縮画像データを生成する。
動作502において、ROICは、例えば検出デバイス(例えば、検出デバイス104)から画素値を受信する。画素値は、デジタル画素値及び/又はアナログ画素値であってもよい。ROICがアナログ画素値を受信する例では、ROICは、例えば後続の処理のためにADCによってアナログ画素値をデジタル化することができる。
動作504において、画素値は、計算素子アレイ内の1つ又は複数の計算素子へ導かれる。画素値は、例えば、固定された相互接続のセット及び/又はプログラム可能なマニホールドによって、計算素子に向けられていてもよい。動作506において、ROICは計算素子のためのマスクを生成する。マスクは、擬似乱数生成器によってオンザフライで生成され、及び/又は、メモリに格納されてアクセスされてもよい。生成されたマスク値は、コード化された集合を生成するために、動作508でROICの計算素子によって画素値に適用されてもよい。コード化された集合を計算する例示的なプロセスは、図6を参照して以下に説明される。
動作510において、ROICは圧縮画像を出力する。圧縮画像は、例えば、コード化された集合及び/又はコード化された集合を生成するために使用されるマスクによって表されてもよい。圧縮画像は、画像プロセッサ及び/又は他の外部装置に提供されてもよい。
図6は、10進値「0」及び「1」を含む測定マトリックスに対して計算素子アレイによって実行されるコード化された集合600を生成するための例示的なプロセスを示す。2次元画像セクションの画素値はPV[x,y]で表される。所与の測定マトリックスのセットに対するマスク値はMV[x,y,z]によって表され、各x及びy座標は画素値(例えばPV[x、y])に対応し、z座標は、測定マトリックスのセット内の特定の測定マトリックスに対応する。所与の測定マトリックスzのコード化された集合は、合計値SV[z]として格納される。プロセス600は、「0」及び「1」以外の組み合わせ、例えば「−1」「0」及び「1」、又は、「−1」及び「1」を含む組み合わせ、を有する測定マトリックスを使用するように適合されてもよいことが理解できる。
動作602では、合計値は、計算素子のメモリ内のゼロ(例えば、SV[z])に設定される。メモリ位置をゼロに設定すると、メモリに残っている以前の計算結果が削除されうる。動作604では、特定のマスク値(例えばMV[x、y、z])が読み出される。上述のように、マスク値は、「0」又は「1」のいずれかであってもよい。動作606において、計算素子は、読み出されたマスク値が1に等しいかどうかを判定する。マスク値が1に等しい場合、計算素子は動作608に進み、マスク値に関連する合計値(例えば、SV[z])を読み出し、動作610に進み、合計値(例えば、SV[z])に画素値(例えば、PV[x、y])を加算し、動作612に進み、新しい合計値(例えばSVnew[z])をメモリに書き込む。そうでない場合、計算素子は、動作614に進み、マスクが完全に横断されたかどうかを決定する。マスクが完全に横切られた場合、プロセス600は終了する。そうでない場合、計算素子は、動作604に戻り、新しいマスク値を選択する。
本明細書で開示されるプロセスの各々は、特定の例における1つの特定の一連の動作を示す。これらの各プロセスに含まれる動作は、本明細書で論じたように特別に構成されたオーディオ装置によって実行され又は使用されることができる。いくつかの行為は任意であり、したがって、1つ又は複数の例に従って省略することができる。さらに、ここで論じられるシステム及び方法の範囲から逸脱することなく、動作の順序を変更することができ、又は他の動作を追加することができる。加えて、上述したように、少なくとも1つの例では、特定の特別に構成された装置、すなわちここで開示された実施例に従って構成されたROIC上で動作が実行される。
少なくとも1つの実施形態のいくつかの実施態様を上記で説明したが、当業者には様々な変更、修正、改良が容易に思い付くであろうことを理解されたい。例えば、既知の圧縮アルゴリズム(例えば、JPEG又はMPEG圧縮アルゴリズム)は、上記の様々な実施形態と組み合わせて実装されてもよい。そのような変更、修正、及び改良は、本開示の一部であることが意図されており、本発明の範囲内にあるものとする。したがって、前述の説明及び図面は単なる例示である。特定の実施形態の例は、ここでは例示目的でのみ提供されており、限定することを意図するものではない。また、ここで使用される表現及び用語は、説明のためのものであり、限定的であると見なされるべきではない。「含む」、「有する」、「備える」、「含有する」、「包含する」、及びそれらの変形のここでの使用は、その後に列挙される項目及びその等価物並びに追加項目を包含することを意味する。

Claims (19)

  1. 複数の光検出器を含む光検出器アレイに結合するように構成された一体化された圧縮サンプリング(CS)を有する読み出し集積回路(ROIC)であって
    スク生成器及び制御コンポーネントであって、前記光検出器アレイの少なくとも一部をサンプリングするためのサンプリングパターンをそれぞれ表す、複数の圧縮サンプリング測定マトリックス(CSMMs)を生成するように構成されたマスク生成器及び制御コンポーネントと、
    前記光検出器アレイ及び前記マスク生成器及び制御コンポーネントに結合された計算素子アレイと、
    を備え、
    前記計算素子アレイは、
    前記光検出器アレイから複数の光検出器値を受信し、
    前記複数のCSMMsを前記マスク生成器及び制御コンポーネントから受信し、
    前記複数のCSMMsと一致する前記光検出器アレイの複数の部分を選択的に並列にサンプリングすることによって圧縮画像データを生成し、前記複数のCSMMsのそれぞれが前記複数の部分のうち対応する部分においてサンプリングされる選択された光検出器の値を指定し、前記圧縮画像データが複数のコード化された集合を含み、
    前記圧縮画像データを少なくとも1つのプロセッサに提供する、
    ROIC。
  2. 前記計算素子アレイは、論理コアに結合されたメモリを各々含む複数の計算素子を含む、
    請求項1に記載のROIC。
  3. 前記メモリは、2ポートスタティックランダムアクセスメモリ(SRAM)を含むことを特徴とする請求項2に記載のROIC。
  4. 前記メモリは、前記圧縮画像データを格納し、前記論理コアは、前記圧縮画像データを決定するように構成されている、請求項2に記載のROIC。
  5. 前記複数の光検出器値の少なくとも一部を前記複数の計算素子の各計算素子に導くように構成されたブロック・マッピング・コンポーネントをさらに備える、
    請求項2に記載のROIC。
  6. 前記マスク生成器及び制御コンポーネントは、擬似乱数生成器及び固有乱数生成器のうちの少なくとも1つを含む、請求項1に記載のROIC。
  7. 前記マスク生成器及び制御コンポーネントはメモリを含み、前記マスク生成器及び制御コンポーネントは、前記メモリから少なくとも1つの格納されたCSMMを少なくとも部分的に読み取ることによって前記複数のCSMMsを生成する、
    請求項1に記載のROIC。
  8. 前記光検出器アレイの前記複数の部分の1つ又は複数の部分が1つの圧縮率を有する、
    請求項に記載のROIC。
  9. 記計算素子アレイ結合され、前記光検出器アレイから受信した前記複数の光検出器値をデジタル化するように構成されたアナログ−デジタル変換器(ADC)をさらに備える、請求項1に記載のROIC。
  10. 前記複数のCSMMsの各CSMMが、10進数のゼロ、10進数の1、及び、10進数の−1のうちの少なくとも1つを含む、請求項1に記載のROIC。
  11. 前記複数の光検出器は、複数のデジタル画素を含み、前記複数の光検出器値は、複数の画素値を含む、請求項1に記載のROIC。
  12. 焦点面アレイ(FPA)撮像システムであって、
    少なくとも1つのプロセッサと、
    複数の光検出器を含む光検出器アレイと、
    前記少なくとも1つのプロセッサと前記光検出器アレイとの間に結合された、一体化された圧縮サンプリング(CS)を有する読み出し集積回路(ROIC)と、
    を備え、
    前記ROICは、
    サンプリングパターンをそれぞれ記述する複数の圧縮サンプリング測定マトリックス(CSMMs)を生成し、前記複数の光検出器の少なくとも一部をサンプリングし、
    前記複数のCSMMsと一致する複数の光検出器の複数の部分を選択的に並列にサンプリングすることによって圧縮画像データを生成し、前記複数のCSMMsのそれぞれが前記複数の部分のうち対応する部分においてサンプリングされる選択された光検出器の値を指定し、前記圧縮画像データが複数のコード化された集合を含み、
    前記圧縮画像データを少なくとも1つのプロセッサに出力するように構成されている、
    システム。
  13. 前記光検出器アレイは、複数のデジタル画素を含む、請求項12に記載のシステム。
  14. 前記ROICは、前記複数のCSMMsを生成するように構成されたマスク生成器及び制御コンポーネントを含む、請求項12に記載のシステム。
  15. 前記マスク生成器及び制御コンポーネントは、擬似乱数生成器及び固有乱数生成器の少なくとも1つを含む、請求項14に記載のシステム。
  16. 前記ROICは、論理コアに結合されたメモリを含み前記圧縮画像データを生成するように構成された計算素子アレイを含む、請求項12に記載のシステム。
  17. 前記少なくとも1つのプロセッサに、前記圧縮画像データに基づいて少なくとも1つの画像を再構成するように指示するように構成された画像再構成エンジンをさらに備える、
    請求項12に記載のシステム。
  18. 前記複数のコード化された集合の各コード化された集合は、前記複数のCSMMsの1つのCSMMにより指定される光検出器値の和である、請求項1に記載のROIC。
  19. 前記複数のコード化された集合の各コード化された集合は、前記複数のCSMMsの1つのCSMMにより指定される光検出器値の和である、請求項12に記載のシステム。
JP2017502722A 2014-07-12 2015-07-10 一体化された圧縮センシングを有する読み出し集積回路 Active JP6482012B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201462023842P 2014-07-12 2014-07-12
US62/023,842 2014-07-12
PCT/US2015/039855 WO2016010838A1 (en) 2014-07-12 2015-07-10 Read-out integrated circuit with integrated compressive sensing

Publications (2)

Publication Number Publication Date
JP2017522815A JP2017522815A (ja) 2017-08-10
JP6482012B2 true JP6482012B2 (ja) 2019-03-13

Family

ID=53762345

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017502722A Active JP6482012B2 (ja) 2014-07-12 2015-07-10 一体化された圧縮センシングを有する読み出し集積回路

Country Status (6)

Country Link
US (1) US10097774B2 (ja)
EP (1) EP3167552A1 (ja)
JP (1) JP6482012B2 (ja)
CN (1) CN107005662B (ja)
IL (1) IL249034A0 (ja)
WO (1) WO2016010838A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA3061622A1 (en) * 2017-04-28 2018-11-01 The Governing Council Of The University Of Toronto Method and system for pixel-wise imaging
CN107509035A (zh) * 2017-09-25 2017-12-22 成都精益技术检测服务有限公司 一种摄像机时空域图像快速压缩方法
DE102018200975A1 (de) * 2018-01-23 2019-01-17 Deutsches Zentrum für Luft- und Raumfahrt e.V. Vorrichtung und Verfahren zur Verschlüsselung von Bilddaten einer Kamera
US11663708B2 (en) * 2018-03-06 2023-05-30 Sony Corporation Image processing apparatus, imaging apparatus, and image processing method
US11856301B2 (en) 2019-06-21 2023-12-26 The Governing Council Of The University Of Toronto Method and system for extending image dynamic range using per-pixel coding of pixel parameters
US11303839B1 (en) 2020-10-05 2022-04-12 Raytheon Company Coded aperture focal plane array
US20230217128A1 (en) * 2021-12-31 2023-07-06 Samsung Electronics Co., Ltd. Flexible computational image sensor with compressive sensing capability
US20240187749A1 (en) 2022-12-01 2024-06-06 Raytheon Company Coded aperture focal plane array using all detectors

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1273948C (zh) * 2001-01-09 2006-09-06 摩托罗拉(中国)电子有限公司 改变图象清晰度的方法
CN101986690A (zh) * 2010-10-27 2011-03-16 格科微电子(上海)有限公司 图像传感器的图像数据处理方法及装置
CN202004870U (zh) * 2010-10-27 2011-10-05 格科微电子(上海)有限公司 图像传感器的图像数据处理装置
US9293197B2 (en) * 2011-08-15 2016-03-22 Lockheed Martin Corporation Reconfigurable phase change material masks for electro-optical compressive sensing
US8976269B2 (en) * 2012-06-22 2015-03-10 California Institute Of Technology Compressive sensing based bio-inspired shape feature detection CMOS imager
JP6361965B2 (ja) 2013-10-24 2018-07-25 パナソニックIpマネジメント株式会社 撮像システム、撮像装置、符号化装置、および撮像方法
CN103686006B (zh) * 2013-12-24 2017-04-05 北京交通大学 一种基于压缩传感的全局式曝光cmos图像传感器

Also Published As

Publication number Publication date
IL249034A0 (en) 2017-01-31
CN107005662B (zh) 2020-04-28
US20170134672A1 (en) 2017-05-11
JP2017522815A (ja) 2017-08-10
EP3167552A1 (en) 2017-05-17
WO2016010838A1 (en) 2016-01-21
CN107005662A (zh) 2017-08-01
US10097774B2 (en) 2018-10-09

Similar Documents

Publication Publication Date Title
JP6482012B2 (ja) 一体化された圧縮センシングを有する読み出し集積回路
US11050963B2 (en) Method and apparatus for on-chip per-pixel pseudo-random time coded exposure
JP6666385B2 (ja) マシーンビジョン3dラインスキャンイメージ取得及び処理
Sankaranarayanan et al. Video compressive sensing for spatial multiplexing cameras using motion-flow models
US11153522B2 (en) Imaging system including digital dual speed readout integrated circuit (ROIC)
WO2017003477A1 (en) Method and apparatus for on-chip per-pixel pseudo-random time coded exposure
Schöberl et al. Increasing imaging resolution by covering your sensor
Dadkhah et al. Block-based CS in a CMOS image sensor
Dadkhah et al. Compressive sensing image sensors-hardware implementation
KR20180114049A (ko) 낮은 정보 컨텐츠 장면의 1차원 디지털 표현을 형성하는 머신 비전 시스템
Jendernalik et al. Analogue CMOS ASICs in image processing systems
Tan et al. LASSO approximation and application to image super-resolution with CUDA acceleration
Gupta et al. Coupled autoencoder based reconstruction of images from compressively sampled measurements
Azgin et al. A high performance alternating projections image demosaicing hardware
Kuang et al. On-Chip Compressed Sensing with CMOS ISFET Arrays for Biomedical Applications
Jayasuriya Plenoptic imaging and vision using angle sensitive pixels
Bidare et al. Design and Evaluation of a Vehicle Detection System in Low Light Conditions
Ayub et al. Fpga based compressive sensing framework for video compression on edge devices
Mitra et al. Toward compressive camera networks
CN104992456A (zh) 多尺度矩阵编码方法
Bottisti et al. Image exploitation from encoded measurements
Schowengerdt Aliasing in remote sensing imagery
Sakr Hardware-Efficient Accelerators For Mask Generation in Coded-Exposure Cameras
Richmond et al. A FPGA design for high speed feature extraction from a compressed measurement stream
Xiong et al. HW/SW co-design of an embedded omni-imaging system

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180515

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180814

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181211

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190110

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20190118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20190118

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190205

R150 Certificate of patent or registration of utility model

Ref document number: 6482012

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250