JP6482012B2 - 一体化された圧縮センシングを有する読み出し集積回路 - Google Patents
一体化された圧縮センシングを有する読み出し集積回路 Download PDFInfo
- Publication number
- JP6482012B2 JP6482012B2 JP2017502722A JP2017502722A JP6482012B2 JP 6482012 B2 JP6482012 B2 JP 6482012B2 JP 2017502722 A JP2017502722 A JP 2017502722A JP 2017502722 A JP2017502722 A JP 2017502722A JP 6482012 B2 JP6482012 B2 JP 6482012B2
- Authority
- JP
- Japan
- Prior art keywords
- roic
- photodetector
- image data
- csmms
- array
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000005259 measurement Methods 0.000 claims description 106
- 239000011159 matrix material Substances 0.000 claims description 49
- 238000005070 sampling Methods 0.000 claims description 30
- 238000003384 imaging method Methods 0.000 claims description 17
- 230000006835 compression Effects 0.000 claims description 15
- 238000007906 compression Methods 0.000 claims description 15
- 238000013507 mapping Methods 0.000 claims description 8
- 230000003068 static effect Effects 0.000 claims description 3
- 238000001514 detection method Methods 0.000 description 18
- 238000000034 method Methods 0.000 description 18
- 239000013598 vector Substances 0.000 description 17
- 230000008569 process Effects 0.000 description 10
- 238000012545 processing Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 238000013459 approach Methods 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 230000006872 improvement Effects 0.000 description 3
- 230000003595 spectral effect Effects 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000004888 barrier function Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
- H04N25/46—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
- H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
- H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
- H03M7/3059—Digital compression and data reduction techniques where the original information is represented by a subset or similar information, e.g. lossy compression
- H03M7/3062—Compressive sampling or sensing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
- H04N25/44—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/71—Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
- H04N25/75—Circuitry for providing, modifying or processing image signals from the pixel array
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
- H04N25/78—Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/91—Television signal processing therefor
- H04N5/917—Television signal processing therefor for bandwidth reduction
- H04N5/919—Television signal processing therefor for bandwidth reduction by dividing samples or signal segments, e.g. television lines, among a plurality of recording channels
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/513—Sparse representations
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
- Image Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Description
Claims (19)
- 複数の光検出器を含む光検出器アレイに結合するように構成された一体化された圧縮サンプリング(CS)を有する読み出し集積回路(ROIC)であって、
マスク生成器及び制御コンポーネントであって、前記光検出器アレイの少なくとも一部をサンプリングするためのサンプリングパターンをそれぞれ表す、複数の圧縮サンプリング測定マトリックス(CSMMs)を生成するように構成されたマスク生成器及び制御コンポーネントと、
前記光検出器アレイ及び前記マスク生成器及び制御コンポーネントに結合された計算素子アレイと、
を備え、
前記計算素子アレイは、
前記光検出器アレイから複数の光検出器値を受信し、
前記複数のCSMMsを前記マスク生成器及び制御コンポーネントから受信し、
前記複数のCSMMsと一致する前記光検出器アレイの複数の部分を選択的に並列にサンプリングすることによって圧縮画像データを生成し、前記複数のCSMMsのそれぞれが前記複数の部分のうち対応する部分においてサンプリングされる選択された光検出器の値を指定し、前記圧縮画像データが複数のコード化された集合を含み、
前記圧縮画像データを少なくとも1つのプロセッサに提供する、
ROIC。 - 前記計算素子アレイは、論理コアに結合されたメモリを各々含む複数の計算素子を含む、
請求項1に記載のROIC。 - 前記メモリは、2ポートスタティックランダムアクセスメモリ(SRAM)を含むことを特徴とする、請求項2に記載のROIC。
- 前記メモリは、前記圧縮画像データを格納し、前記論理コアは、前記圧縮画像データを決定するように構成されている、請求項2に記載のROIC。
- 前記複数の光検出器値の少なくとも一部を前記複数の計算素子の各計算素子に導くように構成されたブロック・マッピング・コンポーネントをさらに備える、
請求項2に記載のROIC。 - 前記マスク生成器及び制御コンポーネントは、擬似乱数生成器及び固有乱数生成器のうちの少なくとも1つを含む、請求項1に記載のROIC。
- 前記マスク生成器及び制御コンポーネントはメモリを含み、前記マスク生成器及び制御コンポーネントは、前記メモリから少なくとも1つの格納されたCSMMを少なくとも部分的に読み取ることによって前記複数のCSMMsを生成する、
請求項1に記載のROIC。 - 前記光検出器アレイの前記複数の部分の1つ又は複数の部分が1つの圧縮率を有する、
請求項1に記載のROIC。 - 前記計算素子アレイに結合され、前記光検出器アレイから受信した前記複数の光検出器値をデジタル化するように構成されたアナログ−デジタル変換器(ADC)をさらに備える、請求項1に記載のROIC。
- 前記複数のCSMMsの各CSMMが、10進数のゼロ、10進数の1、及び、10進数の−1のうちの少なくとも1つを含む、請求項1に記載のROIC。
- 前記複数の光検出器は、複数のデジタル画素を含み、前記複数の光検出器値は、複数の画素値を含む、請求項1に記載のROIC。
- 焦点面アレイ(FPA)撮像システムであって、
少なくとも1つのプロセッサと、
複数の光検出器を含む光検出器アレイと、
前記少なくとも1つのプロセッサと前記光検出器アレイとの間に結合された、一体化された圧縮サンプリング(CS)を有する読み出し集積回路(ROIC)と、
を備え、
前記ROICは、
サンプリングパターンをそれぞれ記述する複数の圧縮サンプリング測定マトリックス(CSMMs)を生成し、前記複数の光検出器の少なくとも一部をサンプリングし、
前記複数のCSMMsと一致する複数の光検出器の複数の部分を選択的に並列にサンプリングすることによって圧縮画像データを生成し、前記複数のCSMMsのそれぞれが前記複数の部分のうち対応する部分においてサンプリングされる選択された光検出器の値を指定し、前記圧縮画像データが複数のコード化された集合を含み、
前記圧縮画像データを少なくとも1つのプロセッサに出力するように構成されている、
システム。 - 前記光検出器アレイは、複数のデジタル画素を含む、請求項12に記載のシステム。
- 前記ROICは、前記複数のCSMMsを生成するように構成されたマスク生成器及び制御コンポーネントを含む、請求項12に記載のシステム。
- 前記マスク生成器及び制御コンポーネントは、擬似乱数生成器及び固有乱数生成器の少なくとも1つを含む、請求項14に記載のシステム。
- 前記ROICは、論理コアに結合されたメモリを含み前記圧縮画像データを生成するように構成された計算素子アレイを含む、請求項12に記載のシステム。
- 前記少なくとも1つのプロセッサに、前記圧縮画像データに基づいて少なくとも1つの画像を再構成するように指示するように構成された画像再構成エンジンをさらに備える、
請求項12に記載のシステム。 - 前記複数のコード化された集合の各コード化された集合は、前記複数のCSMMsの1つのCSMMにより指定される光検出器値の和である、請求項1に記載のROIC。
- 前記複数のコード化された集合の各コード化された集合は、前記複数のCSMMsの1つのCSMMにより指定される光検出器値の和である、請求項12に記載のシステム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201462023842P | 2014-07-12 | 2014-07-12 | |
US62/023,842 | 2014-07-12 | ||
PCT/US2015/039855 WO2016010838A1 (en) | 2014-07-12 | 2015-07-10 | Read-out integrated circuit with integrated compressive sensing |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017522815A JP2017522815A (ja) | 2017-08-10 |
JP6482012B2 true JP6482012B2 (ja) | 2019-03-13 |
Family
ID=53762345
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017502722A Active JP6482012B2 (ja) | 2014-07-12 | 2015-07-10 | 一体化された圧縮センシングを有する読み出し集積回路 |
Country Status (6)
Country | Link |
---|---|
US (1) | US10097774B2 (ja) |
EP (1) | EP3167552A1 (ja) |
JP (1) | JP6482012B2 (ja) |
CN (1) | CN107005662B (ja) |
IL (1) | IL249034A0 (ja) |
WO (1) | WO2016010838A1 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA3061622A1 (en) * | 2017-04-28 | 2018-11-01 | The Governing Council Of The University Of Toronto | Method and system for pixel-wise imaging |
CN107509035A (zh) * | 2017-09-25 | 2017-12-22 | 成都精益技术检测服务有限公司 | 一种摄像机时空域图像快速压缩方法 |
DE102018200975A1 (de) * | 2018-01-23 | 2019-01-17 | Deutsches Zentrum für Luft- und Raumfahrt e.V. | Vorrichtung und Verfahren zur Verschlüsselung von Bilddaten einer Kamera |
US11663708B2 (en) * | 2018-03-06 | 2023-05-30 | Sony Corporation | Image processing apparatus, imaging apparatus, and image processing method |
US11856301B2 (en) | 2019-06-21 | 2023-12-26 | The Governing Council Of The University Of Toronto | Method and system for extending image dynamic range using per-pixel coding of pixel parameters |
US11303839B1 (en) | 2020-10-05 | 2022-04-12 | Raytheon Company | Coded aperture focal plane array |
US20230217128A1 (en) * | 2021-12-31 | 2023-07-06 | Samsung Electronics Co., Ltd. | Flexible computational image sensor with compressive sensing capability |
US20240187749A1 (en) | 2022-12-01 | 2024-06-06 | Raytheon Company | Coded aperture focal plane array using all detectors |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1273948C (zh) * | 2001-01-09 | 2006-09-06 | 摩托罗拉(中国)电子有限公司 | 改变图象清晰度的方法 |
CN101986690A (zh) * | 2010-10-27 | 2011-03-16 | 格科微电子(上海)有限公司 | 图像传感器的图像数据处理方法及装置 |
CN202004870U (zh) * | 2010-10-27 | 2011-10-05 | 格科微电子(上海)有限公司 | 图像传感器的图像数据处理装置 |
US9293197B2 (en) * | 2011-08-15 | 2016-03-22 | Lockheed Martin Corporation | Reconfigurable phase change material masks for electro-optical compressive sensing |
US8976269B2 (en) * | 2012-06-22 | 2015-03-10 | California Institute Of Technology | Compressive sensing based bio-inspired shape feature detection CMOS imager |
JP6361965B2 (ja) | 2013-10-24 | 2018-07-25 | パナソニックIpマネジメント株式会社 | 撮像システム、撮像装置、符号化装置、および撮像方法 |
CN103686006B (zh) * | 2013-12-24 | 2017-04-05 | 北京交通大学 | 一种基于压缩传感的全局式曝光cmos图像传感器 |
-
2015
- 2015-07-10 CN CN201580037413.XA patent/CN107005662B/zh active Active
- 2015-07-10 EP EP15744787.1A patent/EP3167552A1/en not_active Ceased
- 2015-07-10 JP JP2017502722A patent/JP6482012B2/ja active Active
- 2015-07-10 US US15/322,633 patent/US10097774B2/en active Active
- 2015-07-10 WO PCT/US2015/039855 patent/WO2016010838A1/en active Application Filing
-
2016
- 2016-11-17 IL IL249034A patent/IL249034A0/en active IP Right Grant
Also Published As
Publication number | Publication date |
---|---|
IL249034A0 (en) | 2017-01-31 |
CN107005662B (zh) | 2020-04-28 |
US20170134672A1 (en) | 2017-05-11 |
JP2017522815A (ja) | 2017-08-10 |
EP3167552A1 (en) | 2017-05-17 |
WO2016010838A1 (en) | 2016-01-21 |
CN107005662A (zh) | 2017-08-01 |
US10097774B2 (en) | 2018-10-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6482012B2 (ja) | 一体化された圧縮センシングを有する読み出し集積回路 | |
US11050963B2 (en) | Method and apparatus for on-chip per-pixel pseudo-random time coded exposure | |
JP6666385B2 (ja) | マシーンビジョン3dラインスキャンイメージ取得及び処理 | |
Sankaranarayanan et al. | Video compressive sensing for spatial multiplexing cameras using motion-flow models | |
US11153522B2 (en) | Imaging system including digital dual speed readout integrated circuit (ROIC) | |
WO2017003477A1 (en) | Method and apparatus for on-chip per-pixel pseudo-random time coded exposure | |
Schöberl et al. | Increasing imaging resolution by covering your sensor | |
Dadkhah et al. | Block-based CS in a CMOS image sensor | |
Dadkhah et al. | Compressive sensing image sensors-hardware implementation | |
KR20180114049A (ko) | 낮은 정보 컨텐츠 장면의 1차원 디지털 표현을 형성하는 머신 비전 시스템 | |
Jendernalik et al. | Analogue CMOS ASICs in image processing systems | |
Tan et al. | LASSO approximation and application to image super-resolution with CUDA acceleration | |
Gupta et al. | Coupled autoencoder based reconstruction of images from compressively sampled measurements | |
Azgin et al. | A high performance alternating projections image demosaicing hardware | |
Kuang et al. | On-Chip Compressed Sensing with CMOS ISFET Arrays for Biomedical Applications | |
Jayasuriya | Plenoptic imaging and vision using angle sensitive pixels | |
Bidare et al. | Design and Evaluation of a Vehicle Detection System in Low Light Conditions | |
Ayub et al. | Fpga based compressive sensing framework for video compression on edge devices | |
Mitra et al. | Toward compressive camera networks | |
CN104992456A (zh) | 多尺度矩阵编码方法 | |
Bottisti et al. | Image exploitation from encoded measurements | |
Schowengerdt | Aliasing in remote sensing imagery | |
Sakr | Hardware-Efficient Accelerators For Mask Generation in Coded-Exposure Cameras | |
Richmond et al. | A FPGA design for high speed feature extraction from a compressed measurement stream | |
Xiong et al. | HW/SW co-design of an embedded omni-imaging system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180416 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180515 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180814 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20181211 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20190110 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20190118 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20190118 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190205 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6482012 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |