WO2006003906A1 - 撮像装置、撮像素子及び撮像装置の制御方法 - Google Patents

撮像装置、撮像素子及び撮像装置の制御方法 Download PDF

Info

Publication number
WO2006003906A1
WO2006003906A1 PCT/JP2005/011885 JP2005011885W WO2006003906A1 WO 2006003906 A1 WO2006003906 A1 WO 2006003906A1 JP 2005011885 W JP2005011885 W JP 2005011885W WO 2006003906 A1 WO2006003906 A1 WO 2006003906A1
Authority
WO
WIPO (PCT)
Prior art keywords
imaging
data compression
processing time
imaging device
processing
Prior art date
Application number
PCT/JP2005/011885
Other languages
English (en)
French (fr)
Inventor
Takahiro Fukuhara
Tadakuni Narabu
Original Assignee
Sony Corporation
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corporation filed Critical Sony Corporation
Priority to EP05755746A priority Critical patent/EP1768386A4/en
Priority to CA 2572021 priority patent/CA2572021A1/en
Priority to KR1020067024992A priority patent/KR101130375B1/ko
Priority to CN2005800223935A priority patent/CN1981515B/zh
Publication of WO2006003906A1 publication Critical patent/WO2006003906A1/ja
Priority to US11/630,005 priority patent/US7719578B2/en

Links

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1464Back illuminated imager structures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/162User input
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/587Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/443Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by reading pixels from selected 2D regions of the array, e.g. for windowing or digital zooming

Abstract

 本発明は、例えば動画による撮像結果を記録するビデオカメラ、電子スチルカメラ、監視装置等に適用して、データ圧縮手段8における処理時間TCに応じて、撮像手段3の電荷蓄積時間TE又はフレーム周期、若しくはデータ圧縮手段8の処理時間TCを可変する。

Description

明細書
撮像装置、 撮像素子及び撮像装置の制御方法 発明の背景
技術分野
本発明は、 撮像装置、 撮像素子及び撮像装置の制御方法に関し、 例えば動画に よる撮像結果を記録するビデオカメラ、 電子スチルカメラ、 監視装置等に適用す ることができる。 本発明は、 データ圧縮手段における処理時間に応じて、 撮像手 段の電荷蓄積時間又はフレーム周期、 若しくはデータ圧縮手段の処理時間を可変 することにより、 高いフレーム周波数により撮像結果を取得して記録、 伝送する 場合にあっても、 確実に撮像結果をデータ圧縮することができるようにする。 背景技術
従来、 ビデオカメラにおいては、 C C D (Charge Coupled Device ) 固体撮像 素子を用いて、 フィールド読み出しによる 1 6 0秒のフィールド周波数により 撮像結果を取得し、 この撮像結果をデータ圧縮して光ディスク等の記録媒体に記 録している。 またこのようなビデオカメラにおいては、 電荷蓄積時間の制御によ りいわゆる電子シャッターの機能を確保し、 高速度で移動する被写体を高画質で 撮像している。
これに対して近年、 C MO S固体撮像素子が実用に供されており、 このような C MO S固体撮像素子については、 例えば日本特開 2 0 0 4 - 3 1 7 8 5号公報 等に、 周辺回路と一体ィヒする構成が提案されている。
このような C MO S固体撮像素子にあっては、 数百フレームノ秒の高転送レー トにより撮像結果を取得することができる。 これによりこのような C MO S固体 撮像素子を用いて、 さらには高速度化した C C D固体撮像素子を用いて、 高いフ レーム周波数により撮像結果を取得することにより、 従来に比して一段と臨場感 の高い撮像結果を得ることができると考えられる。
しかしながらこのように高いフレーム周波数により撮像結果を取得する場合に あっては、 その分、 記録、 伝送に供するデータ量も格段的に増大し、 データ圧縮 の処理が間に合わなくなり、 全体の処理に破綻をきたす恐れがある 発明の開示
本発明は以上の点を考慮してなされたもので、 高いフレーム周波数により撮像 結果を取得して記録、 伝送する場合にあっても、 確実に撮像結果をデータ圧縮す ることができる撮像装置、 撮像素子及び撮像装置の制御方法を提案しょうとする ものである。
力かる 題を解決するため本発明は、 撮像装置に適用して、 駆動回路による駆 動により撮像結果を出力する撮像手段と、 前記撮像手段から出力される撮像結果 をデータ圧縮して出力するデータ圧縮手段と、 前記データ圧縮手段においてデー タ圧縮処理に要した処理時間に応じて、 前記撮像手段の電荷蓄積時間又はフレー ム周期、 若しくは前記データ圧縮手段の処理時間を可変する制御手段とを備える ようにする。 .
本発明の構成により、 撮像装置に適用して、 駆動回路による駆動により撮像結 果を出力する撮像手段と、 前記撮像手段から出力される撮像結果をデータ圧縮し て出力するデータ圧縮手段と、'前記データ圧縮手段においてデータ圧縮処理に要 した処理時間に応じて、 前記撮像手段の電荷蓄積時間又はフレーム周期、 若しく は前記データ圧縮手段の処理時間を可変する制御手段とを備えるようにすれば、 撮像結果による画像が複雑な場合等にあって、 処理時間が長くなる場合には、 コ マ落ちが発生しないようにし得、 またこれとは逆に撮像結果による画像が殆ど動 きの無い画像、 いわゆる平坦な画像等であって、 処理時間が短くなると、 その分 、 撮像結果のフレーム周波数を増大させて臨場感の高い画像を記録、 伝送するこ とができる。 これにより高いフレーム周波数により撮像結果を取得して記録、 伝 送する場合にあっても、 確実に撮像結果をデータ圧縮することができる。
また本発明は、 駆動回路による駆動により撮像結果を出力する撮像手段と、 前 記撮像手段から出力される撮像結果をデータ圧縮して出力するデータ圧縮手段と を一体化した撮像素子に適用して、 前記データ圧縮手段においてデータ圧縮処理 に要した処理時間に応じて、 前記撮像手段の電荷蓄積時聞又はフレーム周期、 若 しくは前記データ圧縮手段の処理時間を可変する制御手段の全部又は一部を有す るようにする。
これにより本発明の構成によれば、 高いフレーム周波数により撮像結果を取得 して記録、 伝送する場合にあっても、 確実に撮像結果をデータ圧縮することがで きる撮像素子を提供することができる。
また本発明は、 駆動回路による駆動により撮像結果を出力する撮像手段と、 前 記撮像手段から出力される撮像結果をデータ圧縮して出力するデータ圧縮手段と を備える撮像装置の制御方法に適用して、 前記データ圧縮手段においてデータ圧 縮処理に要した処理時間に応じて、 前記撮像手段の電荷蓄積時間又はフレーム周 期、 若しくは前記データ圧縮手段の処理時間を可変する。 ,
これにより本発明の構成によれば、 高いフレーム周波数により撮像結果を取得 して記録、 伝送する場合にあっても、 確実に撮像結果をデータ圧縮することがで きる撮像装置の制御方法を提供することができる。 本発明によれば、 高いフレーム周波数により撮像結果を取得して記録、 伝送す る場合にあっても、 確実に撮像結果をデータ圧縮することができる。 図面の簡単な説明
第 1図は、 本発明の実施例 1に係る撮像装置を示すブロック図である。
第 2図は、 本発明の実施例 2に係る撮像装置を示すブロック図である。
第 3図は、 第 2図の撮像装置の動作の説明に供するタイムチャートである。 第 4 (A) 図及び第 4 ( B ) 図は、 本発明の実施例 3 係る撮像装置の説明に 供する略線図である。
第 5図は、 本発明の実施例 5に係る撮像装置に適用される集積回路を示す断面 図である。 .
第 6 (A ) 図及び第 6 ( B ) 図は、 C C D固体撮像素子による複数系統による 出力の説明を示す摸式図である。
第 7 ( A) 図及ぴ第 7 ( B ) 図は、 C M O S固体撮像素子による複数系統によ る出力の説明を示す摸式図である。
第 8図は、 本発明の実施例 6に係る撮像装置に適用される集積回路を示す斜視 図である。
第 9 (A) 図、 第 9 ( B ) 図、 第 9 ( C ) 図及び第 9 (D ) 図は、 第 8図の撮 像装置における撮像結果の出力の説明に供する摸式図である。
第 1 0図は、 データ圧縮手段の各系統の処理の説明に供する平面図である。 発明を実施するための最良の形態
以下、 適宜図面を参照しながら本発明の実施例を詳述する。
( 1 ) 実施例 1の構成
第 1図は、 本発明の実施例 1に係る撮像装置を示すブロック図である。 この撮 像装置 1は、 所望の被写体の撮像結果をデータ圧縮して記録媒体に記録し、 また 所望の伝送対象に送出する。
ここでこの撮像装置 1において、 レンズ 2は、 ユーザーによる操作に応動して ズーム倍率、 絞りを可変して撮像素子 3の撮像面に入射光を集光する。 光学ロー パスフィルタ 4は、 このレンズ 2の出射光より空間周波数の高い成分を抑圧し、 続く色補正フィルタ 5は、 光学ローパスフィルタ 4から出射される出射光の色温 度を補正して出射する。
撮像素子 3は、 例えば CMO S固体撮像素子により形成され、 駆動部 6から出 力される各種タイミング信号により動作して、 撮像面に形成された光学像を各画 素により光電変換して撮像信号 S 1を出力する。 この処理において、 撮像素子 3 は、 所定の電荷蓄積時間により、 各画素の入射光を光電変換処理しながら光電変 換処理結果を各画素で蓄積し、 電荷蓄積時間の終了により、 各画素に蓄積した光 電変換処理結果を転送して撮像信号 S 1により出力すると共に、 続くフレームに 係る光電変換処理を開始する。 これにより撮像素子 3は、 電荷蓄積時間に対応す るフレーム周波数により撮像結果を出力する。 また従来のビデオ信号に比して高 いフレーム周波数により撮像結果を出力する。
駆動部 6は、 制御部 9の制御により、 この撮像素子 3の各種タイミング信号を 生成して撮像素子 3に出力し、 これにより制御部 9の制御により撮像素子 3の動 作を制御する。 この制御において、 駆動部 6は、 撮像素子 3の電荷蓄積時間が制 御部 9により指示される電荷蓄積時間 T Eとなるように、 タイミング信号を出力 する。 これによりこの実施例においては、 制御部 9の制御により撮像素子 3の電 荷蓄積時間 T Eを制御し、 さらには撮像結果のフレーム周期を可変する。 なおこ こで、 フレーム周期は、 1フレームの期間である。
アナログディジタル変換回路 (A D ) 7は、 この撮像信号 S 1をアナログディ ジタル変換処理して画像データ D 1を出力する。 この撮像装置 1は、 図示しない 信号処理回路によりこの画像データ D 1を画素補間処理、 色空間変換処理、 エツ ジ強調処理、 ノイズ除去処理等した後、 画像圧縮部 8に入力する。
画像圧縮部 8は、 この画像データ D 1をデータ圧縮し、 その処理結果による符 号化データ D 2を記録系、 伝送系に出力し、 これによりこの撮像装置 1では、 こ の記録系により所定の記録媒体に符号化データ D 2を記録し、 またこの伝送系に より符号化データ D 2を外部機器に伝送する。 画像圧縮部 8は、 このデータ圧縮 の処理において、 例えば M P E Gの手法を適用して制御部 9により指示される固 定の量子化スケールによりデータ圧縮し、 これにより画像データ D 1における符 号ィ匕処理の困難度に応じて、 符号化処理に要する時間を可変して一定の画質によ り符号化データ D 2を生成する。 画像圧縮部 8は、 この 1枚のピクチャーに係る 画像データ D 1のデータ圧縮処理に要した処理時間 T Cを検出し、 この処理時間 T Cを制御部 9に通知する。
制御部 9は、 マイコンによる演算処理手段により構成され、 所定の制御プログ ラムの実行により、 ユーザーにより操作子の操作に応動してこの撮像装置 1全体 の動作を制御する。 なおこの実施例において、 この制御プログラムは、 この撮像 装置 1に事前にインストールされて提供されるものの、 この制御プログラムにあ つては、 インターネット等のネットワークを介したダウンロードにより、 さらに は記録媒体からのダウンロードにより提供するようにしてもよく、 このような記 録媒体にあっては、 光ディスク、 メモリカード等、 種々の記録媒体を広く適用す ることができる。
しかして制御部 9は、 ユーザーにより電源が立ち上げられると動作を開始し、 ユーザーによる操作子の操作に応動して撮像素子' 3により撮像結果の取得を開始 するように、 またこの撮像結果の記録、 伝送を開始するように、 全体の動作を制 御する。 また制御部 9は、 このようにして撮像結果の取得、 記録、 伝送を開始す ると、 画像圧縮部 8で検出される処理時間 T Cに応じて画像データ D 1の処理速 度を可変する。 これにより制御部 9は、 符号化データ D 2におけるコマ落ちを防 止し、 高いフレーム周波数により撮像結果を取得して記録、 伝送する場合にあつ ても、 確実に撮像結果をデータ圧縮する。
具体的にこの実施例において、 ユーザーがデータ圧縮処理の優先モードを選択 している場合、 制御部 9は、 画像圧縮部 8の処理時間 T Cに応じて、 撮像素子 3 の電荷蓄積時間 T Eを可変することにより、 符号化データ D 2におけるコマ落ち を防止する。 すなわち制御部 9は、 画像データ D 1による画像が複雑な画像であ つて、 画像圧縮部 8における処理時間 T Cが長くなり、 その結果、 電荷蓄積時間 T Eに比して処理時間 T Cが長くなると、 その分、 電荷蓄積時間 T Eを増大させ 、 これにより符号化データ D 2におけるコマ落ちを防止する。
またこれとは逆に、 画像データ D 1による画像が殆ど動きの無い画像、 いわゆ る平坦な画像等であって、 画像圧縮部 8における処理時間 T Cが短くなると、 そ の分、 電荷蓄積時間 T Eを短縮し、 高いフレーム周波数による臨場感の高い画像 を記録する。 なおこのデータ圧縮処理の優先モードにおいて、 制御部 9は、 ユー ザ一がデータ圧縮モードを指定している場合、 この指示されたデータ圧縮モード における量子化スケール等によりデータ圧縮するように画像圧縮部 8の動作を制 御した状態で、 これらの制御を実行する。
これに対してユーザーがフレームレートの優先モードを選択している場合、 制 御部 9は、 ユーザーにより指示されたフレーム周期により画像データ D 1を記録 するように、 画像圧縮部 8における処理速度 T Cを可変する。 すなわちこの場合 、 制御部 9は、 このユーザーにより指示されたフレーム周期によ'り画像データ D 1を出力するように、 撮像素子 3の電荷蓄積時間 T Eを制御した状態で、 画像デ ータ D 1による画像が複雑な画像であって、 画像圧縮部 8における処理時間 T C が長くなり、 その結果、 電荷蓄積時間 T Eに比して処理時間 T Cが長くなると、 その分、 画像圧縮部 8における処理時間 T Cを短縮させ、 これにより符号化デー タ D 2におけるコマ落ちを防止する。 '
またこれとは逆に、 画像データ D 1による画像が殆ど動きの無い画像、 いわゆ る平坦な画像等であって、 画像圧縮部 8における処理時間 T Cが短くなると、 そ の分、 画像圧縮部 8における処理時間 T Cを増大させ、 これにより高いフレーム 周波数による臨場感の高い画像を記録する。 なおこれらの制御において、 制御部 9は、 画像圧縮部 8の動作基準であるクロック周波数の切り換えにより処理時間 T Cを可変するものの、 これに代えて、 又はこれに加えて量子化スケールの切り 換えにより処理時間 T Cを可変してもよレ、。 ■
( 2 ) 実施例 1の動作
以上の構成において、 この撮像装置 1では、 レンズ 2により撮像素子 3の撮像 面に被写体の画像が形成され、 この画像の撮像結果が撮像素子 3より出力されて アナ口グディジタル変換回路 7により画像データ D 1に変換される。 この画像デ ータ D 1は、 エッジ強調等の処理が実行された後、 画像圧縮部 8によりデータ圧 縮されて符号化データ D 2に変換され、 この符号化データ D 2が記録媒体に記録 され、 さらには外部機器に伝送される。 これにより撮像装置 1では、 撮像結果を データ圧縮して記録し、 また伝送する。
これら一連の処理において、 画像データ D 1は、 この画像圧縮部 8におけるデ ータ圧縮に要する処理時間 T Cが計測され、 この処理時間 T Cと ^像素子 3にお ける電荷蓄積時間 T Eとの比較により各部における処理速度が可変される。 すな わち画像データ D 1による画像が複雑な場合等にあって、 電荷蓄積時間 T Eに比 して画像圧縮部 8における処理時間 T Cが長くなる場合には、 この処理時間 T C により符号化データ D 2においてコマ落ちが発生しないように、 各部における処 理速度が可変制御される。 またこれとは逆に、 画像データ D 1による画像が殆ど 動きの無い画像、 いわゆる平坦な画像等であって、 電荷蓄積時間 T Eに比して画 像圧縮部 8における処理時間 T Cが短くなると、 この場合も各部における処理速 度が可変制御され、 これにより臨場感の高い画像により記録される。
この実施例においては、 ユーザーがデータ圧縮処理の優先モードを選択してい る場合、 この処理速度の制御対象が撮像素子 3の電荷蓄積時間に設定され、 電荷 蓄積時間 T Eに比して画像圧縮部 8における処理時間 T Cが長くなる場合には、 この処理時間 T Cにより符号化データ D 2においてコマ落ちが発生しないように 、 撮像素子 3における電荷蓄積時間 T Eが長くなるように制御され、 これにより 画像データ D 1のフレーム周波数が低減される。 また電荷蓄積時間 T Eに比して 画像圧縮部 8における処理時間 T Cが短くなると、 撮像素子 3の電荷蓄積時間 T Eが短くなるように制御され、 これによりブレーム周波数が増大される。
これによりこの実施例においては、 高いフレーム周波数により撮像結果を取得 して記録、 伝送する場合にあっても、 確実に撮像結果をデータ圧縮して所望の記 録媒体に記録することができ、 'また伝送することができる。
これに対してユーザーがフレームレートの優先'モードを選択している場合、 こ の処理速度の制御対象が画像圧縮部 8に設定され、 コマ落ちしないように、 また 可能な限り高画質によりデータ圧縮するように、 画像圧縮部 8における処理速度 T Cが切り換えられる。 これによりこの場合も、 高いフレーム周波数により撮像 結果を取得して記録、 伝送する場合に、 確実に撮像結果をデータ圧縮して所望の 記録媒体に記録することができ、 また伝送することができる。
( 3 ) 実施例 1の効果
以上の構成によれば、 データ圧縮に要する処理時間に応じて、 撮像素子におけ る電荷蓄積時間を可変することにより、 又はデータ圧縮の処理時間を可変するこ とにより、 高いフレーム周波数により撮像結果を取得して記録、 伝送する場合に あっても、 確実に撮像結果をデータ圧縮して所望の記録媒体に記録し、 また伝送 することができる。
すなわち処理時間が、 電荷蓄積時間より長くなると、 電荷蓄積時間が長くなる ように、 撮像手段である撮像素子の動作を制御することにより、 コマ落ちを防止 して確実に撮像結果を処理することができる。
また処理時間が、 電荷蓄積時間より長くなると、 処理時間が短くなるように、 データ圧縮手段である画像圧縮部の処理速度を制御することによつても、 コマ落 ちを防止して確実に撮像結果を処理することができる。
またこのデータ圧縮手段の処理時間の可変が、 データ圧縮手段のクロックの切 り換えによる処理時間の可変であることにより、 消費電力を無駄に増大させるこ となく、 確実に撮像結果を処理することができる。
( 4 ) 実施例 2
第 2図は、 第 1図との対比により本発明の実施例 2に係る撮像装置を示すプロ ック図である。 この撮像装置 1 1においては、 画像圧縮部 8の入力側にメモリ部 1 2が設けられ、 また画像圧縮部 8、 制御部 9に代えて、'画像圧縮部 1 3、 制御 部 1 4が設けられている点を除いて、 実施例 1の撮像装置 1と同一に構成される 。 なおこの第 2図においては、 これにより実施例 1に係る撮像装置 1と同一の構 成は、 対応する符号を付して示し、 重複した説明は省略する。
この撮像装置 1 1において、 メモリ部 1 2は、 複数フレーム分の画像データ D 1を蓄積できるように形成され、 制御部 1 4の制御により順次入力される画像デ ータ D rを蓄積し、 また蓄積した画像データを画像圧縮部 1 3に出力する。
画像圧縮部 1 3は、 撮像装置 1の画像圧縮部 8と同様にして制御部 1 4の制御 により順次入力される画像データ D 1をデータ圧縮し、 その処理結果による符号 化データ D 2を記録系、 伝送系に出力する。 この処理において、 画像圧縮部 1 3 は、 アナ口.グディジタル変換回路 7から出力される画像データ D 1を直接入力し て、 又はメモリ部 1 2を介して入力して、 この画像データ D 1をデータ圧縮する ように形成され、 これにより撮像装置 1 1は、 メモリ部 1 2をバッファメモリと して使用して、 データ圧縮に係る処理時間 T Cの変動による影響をこのメモリ部 1 2により緩和して画像データ D 1を処理する。
制御部 1 4は、 制御部 9と同様にして、 この撮像装置 1 1全体の動作を制御す る。 この処理において制御部 1 4は、 画像圧縮部 8で検出される処理時間 T Cに 応じて、 画像圧縮部 1 3の処理対象を、 アナログディジタル変換回路 7から直接 入力される画像データ D 1と、 メモリ部 1 2を介して入力される画像データ D 1 とで切り換え、 これによりデータ圧縮に係る処理時間 T Cが変動した場合でも、 コマ落ちすることなく高画質により画像データ D 1をデータ圧縮する。
すなわち第 3図 (A) に示すように、 連続するピクチャー T l、 Τ 2、 Τ 3、 ……による画像データ D 1が入力されている場合にあつて、 ピクチャー T 3のデ ータ圧縮処理に 3フレーム分の処理時間 T Cを要した場合、 このままでは符号 ( B ) に示すように、 続く 2つのピクチャー T 4、 Τ 5については、 データ圧縮処 理する時間が無くなり、 これにより符号化データ D 2にあってはコマ落ちするこ とになる。
制御部 1 4は、 これにより第 3図 (C ) 及び (D ) に示すように、 ピクチャー Τ 3までの間、 アナ口グデイジタル変換回路 7から直接入力される画像データ D 1をデータ圧縮するように画像圧縮部 8の動作を制御した後、 続くピクチャー T 4以降においては、 メモリ部 1 2に一時保持した画像データ D 1をデータ圧縮す るように、 画像圧縮部 8の動作を制御する。 すなわちこの場合、 制御部 1 4は、 この続くピクチャー T 4以降を一時記録するようにメモリ部 1 2の動作を制御し 、 またこのメモリ部 1 2に一時記録した画像データ D 1を処理するように画像圧 縮部 1 3の動作を制御する。
またこのようにしてメモリ部 1 2に一 B寺保持した画像データ D 1をデータ圧縮 するように画像圧縮部 8の動作を制御し、 画像圧縮部 1 3における処理時間が短 くなつて、 画像圧縮部 1 3における処理が撮像素子 3からの画像データ D 1の直 接の出力に追いつくと、 メモリ部 1 2に一時保持した画像データ D 1に代えて、 アナログディジタル変換回路 7から直接入力される画像データ D 1をデータ圧縮 するように画像圧縮部 8の動作を制御する。 すなわちこの場合、 制御部 1 4は、 メモリ部 1 2における画像データ D 1の記録を所定のピクチャーで中止し、 アナ ログディジタル変換回路 7から直接入力される画像データ D 1を処理するように 画像圧縮部 8の動作を制御する。
制御部 1 4は、 これによりメモリ咅 1 2を用いて、 画像圧縮部 Ί 3における処 理時間 T Cの変動によるコマ落ちを防止して高画質により画像データ D 1を処理 する。 またこのように処理して、 メモリ部 1 2を用いた処理によってはコマ落ち を防止できなくなると、 実施例 1について上述したと同様にして撮像素子 3の電 荷蓄積時間 T Eの増大により、 又は画像圧縮部 1 3における処理時間 T Cの低減 によりコマ落ちを防止する。 またこれとは逆に、 画像圧縮部 1 3の処理に撮像素 子 3からの画像データ出力が間に合わなくなると、 実施例 1について上述したと 同様にして撮像素子 3の電荷蓄積時間 T Eの低減により、 又は画像圧縮部 1 3に おける処理時間の増大により可能な限り高画質により画像データ D 1を処理する 。
以上の構成によれば、 データ圧縮手段における処理時間に応じて、 撮像手段の 電荷蓄積時間、 データ圧縮手段の処理時間を可変する構成において、 データ圧縮 手段の処理時間に応じて、 撮像手段から出力される撮像結果を一時記憶してデー タ圧縮手段でデータ圧縮することにより、 処理時間の変動をデータ圧縮手段によ り緩和して、 高いフレーム周期により撮像結果を取得して記録、 伝送する場合に あっても、 一段と確実に撮像結果をデータ圧縮して所望の記録媒体に記録し、 ま た伝送することができる。
(5) 実施例 3
この実施例においては、 撮像素子から出力される画像データのサンプリング数 の制御により、 データ圧縮手段の処理速度を可変し、 これによりコマ落ちを防止 して高画質により画像データを記録する。 この実施例においては、 このサンプリ ング数の制御に係る構成が異なる点を除いて、 第 1図又は第 2図について上述し た撮像装置 1又は 1 1と同一に構成されることにより、 この実施例においては、 この第 1図又は第 2図を用いて構成を説明する。
この実施例において、 駆動部 6は、 制御部 9又は 14の制御により、 撮像素子 3に出力するタイミング信号を切り換え、 これにより第 4 (A) 図との対比によ り第 4 (B) 図に示すように、 撮像結果を出力可能な撮像素子 3の有効画素領域 ARに対して、 この有効画素領域 ARから一部領域 AR Aを切り出し、 この切り 出した一部領域 A RAの撮像結果だけを選択的に撮像素子 3から出力できるよう に構成されている。
制御部 9又は 14は、 上述した画像圧縮部 8又は 1 3の直接の制御による処理 時間 TCの可変に代えて、 この一部領域 ARAの大きさの可変により、 撮像結果 のサンプリング数を可変して画像圧縮部 8又は 1 3における処理時間 TCを可変 し、 これによりコマ落ちを防止し、 また可能な限り高画質により撮像結果をデー タ圧縮する。
すなわち制御部 9又は 14は、 画像圧縮部 8の処理時間 TCが電荷蓄積時間 T Eに比して長くなると、 一部領域 ARAの大きさを小さくし、 これにより撮像結 果のサンプリング数の低減により画像圧縮部 8における処理時間 T Cを短くする 。 またこれとは逆に画像圧縮部 8の処理時間 TCが電荷蓄積時間 TEに比して短 くなると、 一部領域 ARAの大きさを大きくし、 これにより撮像結果のサンプリ ング数の増大により画像圧縮部 8における処理時間 TCを長くする。 またこのよ うにサンプリング数の制御により処理時間 TCを可変して、 この一部領域 ARA の大きさがユーザーにより指示された範囲を逸脱する場合には、 サンプリング数 の制御に代えて、 実施例 1又は実施例 2について上述した手法により、 コマ落ち を防止する。 なおこのような撮像結果の選択的な出力に係る一部領域 A R Aはこ の撮像装置における手振れ補正の処理に係る領域であり、 これによりこの実施例 においては、 手振れ補正に係る構成を有効に利用して全体構成を簡略化する。
この実施例のように、 撮像結果のサンプリング数の可変により画像圧縮部 8に' おける処理時間を可変するようにしても、 実施例 1又は実施例 2と同様の効果を 得ることができる。
( 6 ) 実施例 4
この実施例においては、 撮像素子から出力される画像データのサンプリング数 の制御に代えて、 画像圧縮部に入力される画像データのサンプリング数の制御に よりコマ落ちを防止して高画質により画像データを記録する。 この実施例におい ては、 このサンプリング数の制御に係る構成が異なる点を除いて、 実施例 3につ いて上述した撮像装置と同一に構成されることにより、 この実施例においては、 この実施例 3において流用した第 1図又は第 2図を用いて構成を説明する。
この実施例に係る撮像装置 1又は 1 1においては、 アナログディジタル変換回 路 7の出力段にフレームメモリが設けられ、 アナログディジタル変換回路 7から 出力される画像データをこのフレームメモリに一時記録する。 またこのフレーム メモリに係る読み出しァドレスの制御により、 フレームメモリに記録した画像デ ータによる画像から一部領域 A R Aを切り出し、 この切り出した一部領域 A R A に係る画像データ D 1を選択的にフレームメモリから読み出してデータ圧縮処理 する。 なお、 この第 2図について上述した撮像装置 1 1にあっては、 このフレー ムメモリをメモリ部 1 2により構成してもよレヽ。
この実施例のように、 撮像素子から出力される画像データのサンプリング数の 制御に代えて、 データ圧縮手段の入力段で画像データのサンプリング数を制御す るようにしても、 実施例 3と同一の効果を得ることができる。
( 7 ) 実施例 5
第 5図は、 本発明の実施例 5に係る撮像装置に適用される集積回路の一部を示 す断面図である。 この実施例においては、 この集積回路により実施例 1〜実施例 4に係る撮像装置を構成する。 ここでこの集積回路 5 1は、 撮像素子 3と周辺回路とを一体化して形成され、 実施例 1に係る撮像装置 1においては、 この一体化に係る周辺回路に駆動部 6、 アナログディジタル変換回路 7、 画像圧縮部 8が適用される。 また実施例 2に係 る撮像装置 1 1においては、 この一体化に係る周辺回路に、 さらにメモリ部 1 2 が適用され、 実施例 3、 4に係る撮像装置においては、 同様の対応する構成が周 辺回路に適用される。 これによりこの実施例に係る撮像装置においては、 全体構 成を簡略化する。
集積回路 5 1は、 画素部をマトリックス状に配置して撮像素子部が形成され、 この撮像素子部により撮像素子 3が形成される。 またこの撮像素子部の周囲に周 辺回路部が形成され、 この周辺回路部に上述した駆動部 6等が適宜配置される。 これにより第 5図は、 この撮像素子部と周辺回路部との一部を示す断面図である 集積回路 5 1は、 1 0〜2 0 〔μ πι〕 程度の厚さのシリコン (S i ) 層により 素子層 5 2が形成され、 画素部においては、 この素子層 5 2に、 画素単位の光電 変換処理に係るフォトダイオード 5 3が形成され、 周辺回路部においては、 この 素子層 5 2の下層側に、 周辺回路を構成する MO S F E T等の各回路素子が形成 される。
集積回路 5 1は、 この素子層 5 2の上層に、 順次、 シリコン酸化 (S i 0 2 ) 膜 5 4、 遮光膜 5 5、 シリコン窒化膜 ( S i N) 5 6、 色フィルタ 5 7、 マイク 口レンズ 5 8が積層される。 またこの素子層 5 2の下層に、 フォトダイオード 5 3、 周辺回路の回路素子を配線する配線層 5 9が形成され、 この配線層 5 9の下 層側に、 全体を保持する基板支持材 6 0が設けられる。 これにより集積回路 5 1 は、 受光面とは逆側に配線層 5 9が設けられ、 配線層を受光面側に設ける場合の 種々の不具合を一挙に解決して配線の自由度を格段に向上する。 なおこのように 配線層を受光面側に設ける不具合にあっては、 配線層を形成する配線による各画 素への入射光量の減少、 隣接画素へのクロストーク等がある。
なお集積回路 5 1は、 このように受光面とは逆側に配線層 5 9が形成されるこ とにより、 厚さの薄い半導体基板を配線層 5 9側より処理してフォトダイォード 5 3、 周辺回路の回路素子を形成した後、 この半導体基板に配線層 5 9、 基板支 持材 6 0を順次形成し、 その後、 この半導体基板を裏返して CM Pにより研磨し て素子層 5 2が完成し、 遮光膜 5 5、 シリコン窒化膜 (S i N) 5 6、 色フィル タ 5 7、 マイクロレンズ 5 8を順次形成して作成される。
この実施例に係る撮像装置は、 このように受光面とは逆側に配線層 5 9を形成 して、 配線の自由度が格段的に向上する点を有効に利用して、 撮像結果を高速読 み出しする。 ここでこのような高速読み出しにあっては、 撮像結果である多数の 画素による光電変換結果を複数系統により同時並列的に出力することにより実行 する。 これにより各系統の出力に係るデータレートを rと置き、 この系統数を N と置くと、 撮像素子全体のデータレートは、 R= N X rにより表され、 撮像結果 を高速で出力することができる。
なお同様の撮像素子である C C D (Charge Coupled Device ) 固体撮像素子に おいては、 ウェハプロセスの関係により、 この同時並列に出力する系統数 Nが最 大で 8程度であるのに対し、 この実施例に係る集積回路 5 1による撮像素子にお いては、 系統数 Nを数 1 0 0以上に設定することができ、 これにより従来に比し て格段的に高速度で撮像結果を出力することができる。
なお第 6図は、 このような C C D固体撮像素子からの撮像結果の出力を示す模 式図であり、 第 6 (A) 図は、 1系統により出力する場合であり、 この場合、 各 画素に保持された蓄積電荷を垂直転送レジスタに転送し、 この垂直転送レジスタ に転送した蓄積電荷を水平転送レジスタに順次転送しながら水平転送レジスタに より順次転送して出力する。 これに対して第 6 ( B ) 図は、 8系統により撮像結 果を出力する場合であり、 8個の水平転送レジスタを設け、 垂直転送レジスタに 転送した蓄積電荷をこれら 8個の水平転送レジスタにより順次出力する場合であ る。
これに対して第 7図は、 CMO S固体撮像素子からの撮像結果の出力を示す模 式図である。 第 7 (A) 図は、 コラム線単位で順次各画素による撮像結果を出力 する方式であり、 この場合、 コラム線の数の分だけ同時並列的に撮像結果を出力 することになる。 この実施例においては、 との第 7 (A) 図に示す方式によりコ ラム線単位で撮像結果を出力するようにして、 コラム線の数に対応する複数のァ ナ口グデイジタル変換回路により各コラム線出力をそれぞれアナログディジタル 変換処理し、 複数系統の画像データを生成する。 またこの画像データを実施例 1 〜4に上述したようにデータ圧縮処理して、 またこのデータ圧縮処理に要する処 理時間に応じて撮像素子の電荷蓄積時間、 画像圧縮部の処理時間を制御する。
しかしてこの実施例においては、 このように複数系統により撮像結果を出力す ることにより、 高いフレーム周波数による撮像結果を確実に取得できるようにし て、 この高いフレーム周波数による撮像結果を確実にデータ圧縮することができ る。
なお実用上十分な転送速度を確保できる場合、 このようなコラム線の数による 同時並列的な撮像結果の出力に代えて、 例えば第 7 ( B ) 図に示すように、 複数 のコラム線で撮像結果を多重化して出力するようにしてもょレ、。 なおこの第 7 ( B ) 図の例は、 2本のコラム線で撮像結果を多重化して出力するものであり、 こ の場合、 コラム線の数の 1 / 2の系統数により同時並列的に撮像結果を出力する ことになる。
実施例 5の構成によれば、 撮像手段、 撮像手段の駆動回路、 データ圧縮手段を 一体に集積回路化することにより、 全体構成を小型化、 簡略化することができる またこのとき受光面とは逆側に配線層を形成し、 この配線層により撮像手段と 周辺回路とを接続することにより、 高い自由度により配線層の配線を形成するこ とができ、 これにより高いフレーム周波数による撮像結果を確実に処理すること ができる。
( 8 ) 実施例 6
第 8図は、 本発明の実施例 6に係る撮像装置に適用される集積回路の一部を示 す斜視図である。 この実施例においては、 この集積回路により実施例 1〜実施例 4に係る撮像装置を構成する。 なおこの集積回路 6 1において、 実施例 5につい て上述した集積回路 5 1と同一の構成は、 対応する符号を付して示し、 重複した 説明は省略する。 '
ここでこの集積回路 6 1は、 撮像素子 3と周辺回路とを一体化して形成され、 この周辺回路が実施例 5に係る周辺回路と同一に、 実施例 1に係る撮像装置 1に おいては、 この一体化に係る周辺回路に駆動部 6、 アナログディジタル変換回路 7、 画像圧縮部 8が適用され、 また実施例 2に係る撮像装置 1 1においては、 こ の一体化に係る周辺回路に、 さらにメモリ部 1 2が適用され、 実施例 3、 4に係 る撮像装置においては、 同様の対応する構成が周辺回路に適用される。 これによ りこの実施例に係る撮像装置においては、 全体構成を簡略化する。
この集積回路 6 1は、 周辺回路部に撮像素子部を積層して形成され、 周辺回路 部は、 所定の半導体プロセスにより、 半導体基板 6 2上に周辺回路を構成する半 導体素子を形成した後、 これら半導体素子の上層に配線層 6 3を形成してこれら 半導体素子を接続することにより形成される。 周辺回路部は、 この配線層 6 3の 表層に撮像素子部との接続用の電極等が形成される。
撮像素子部は、 実施例 4について上述したと同様に、 画素部をマトリックス状 に配置して形成され、 1 0〜2 0 ί μ ΐΏ.) 程度の厚さのシリコン (S i ) 層によ り素子層 5 2が形成される。 撮像素子部は、 この素子層 5 2に、 画素単位の光電 変換処理に係るフォトダイォードが形成される。
撮像素子部は、 この素子層 5 2の上層に、 順次、 シリコン酸化膜、 遮光膜、 シ リコン窒化膜、 色フィルタ 5 7、 マイクロレンズ 5 8が積層されて撮像面が形成 されるのに対し、 素子層 5 2の下層に、 配線層 5 9が形成される。 撮像素子部は 、 この配線層 5 9の下層側に周辺回路部が設けられ、 周辺回路部の配線層 6 3と 配線層 5 9とが接続されて撮像素子と周辺回路とがー体に集積回路化される。 これにより集積回路 6 1は、 受光面とは逆側に配線層 5 9が設けられ、 配線層 5 9を受光面側に設ける場合の種々の不具合を一挙に解決して配線の自由度を格 段的に向上する。 またこのように受光面とは逆側に形成された配線層 5 9を介し て周辺回路を形成した周辺回路部と一体化されることにより、 撮像素子部と周辺 回路部とを異なるウェハプロセスにより作成して一体化することができ、 その分 、 撮像素子部と周辺回路部とをそれぞれに適したウェハプロセスにより作成して 、 全体として各種の性能を向上することができる。
具体的に、 周辺回路を形成した周辺回路部は、 各半導体素子、 配線パターン幅 を小さくして高密度に形成することにより、 チップサイズを小型化して消費電力 を削減することができる。 しかしながら撮像素子部は、 画素サイズを小さくする と、 その分、 感度が低下し、 また画素数に応じてチップ面積も大きくなる。 これ によりこの実施例のように撮像素子部と周辺回路部とを異なるウェハプロセスに より作成して一体化する場合にあっては、 撮像素子部、 周辺回路部の各々に適し たウェハプロセスにより作成することができ、 その分、 全体としての性能を向上 することができる。 .
なおこのように受光面とは逆側に形成された配線層 5 9を介して周辺回路を形 成した周辺回路部と一体化されることにより、 この集積回路 6 1は、 実施例 5に ついて上述したと同様にして、 厚さの薄い半導体基板を配線層 5 9側より処理し てフォトダイオードを形成した後、 この半導体基板に配線層 5 9を形成し、 別ェ 程により作成された周辺回路部が積層される。 その後、 集積回路 6 1は、 この半 導体基板を裏返して CM Pにより研磨して素子層 5 2が完成し、 遮光膜、 色フィ ルタ 5 7、 マイクロレンズ 5 8等を順次形成して作成される。
このような異なるウェハプロセスによる半導体基板の積層による集積回路 6 1 において、 撮像素子 3は、 第 9 (A) 図に示すように、 各画素出力がそれぞれ周 辺回路に出力されてアナログディジタル変換処理により画像データ D 1に変換さ れる。 これによりこの実施例においては、 画素を単位として同時並列的に撮像結 果を出力して高速度に撮像結果を出力する。
なおこのような同時並列的な撮像結果の出力は、 必要に応じて、 第 9 ( B ) 図 に示すように、 コラム線を単位にして実行するようにしてもよく、 また第 9 ( C ) 図に示すように、 ラインを単位にして実行するようにしてもよく、 さらには第 9 (D ) 図に示すように、 水平方向及び垂直方向、 複数画素によるブロックを単 位にして実行するようにしてもよい。 なおこれらのコラム線、 ライン、 ブロック を単位にした撮像結果の同時並列的な出力は、 これら各単位毎に、 アナログディ ジタル変換回路を設けて画像データを生成する。
周辺回路は、 このようにして高速度で撮像結果を入力するようにして、 これら 同時並列的に得られる画像データ D 1を並び代えてデータ圧縮処理する。 周辺回 路は、 このデータ圧縮処理に係る画像圧縮部 8、 1 3が、 第 8図に示すように、 3系統の処理回路 C 1〜C 3により形成され、 これら 3系統の処理回路 C:!〜 C 3に画像データを振り分けて、 これら 3系統の同時並列的な処理により高速度で データ圧縮する。 またこの同時並列的な処理に係る処理回路 C 1〜C 3の選択的な駆動により、 またこの選択的な駆動に対応するように画像データ D 1の振り分けを切り換える ことにより、 データ圧縮に要する処理時間 T Cを可変する。
この実施例においては、 撮像素子部の配線層の下層に周辺回路を形成すること により、 一段と高い自由度により撮像素子と周辺回路とを一体に集積回路化する ことができ、 これにより、 高いフレーム周波数により撮像結果を取得して記録、 伝送する場合にあっても、 確実に撮像結果をデータ圧縮することができる。
すなわちこの場合、 撮像素子部と周辺回路部とを異なるウェハプロセスにより 作成することにより、 それぞれに適したウェハプロセスにより作成して、 全体の 性能を向上することができる。
また複数系統の同時並列的な処理により画像データをデータ圧縮するようにし て、 この同時並列的な処理に係る系統数の切り換えにより、 データ圧縮の処理時 間を可変するようにしても、 上述の実施例と同様の効果を得ることができる。
( 9 ) 実施例 7
この実施例においては、 実施例 6について上述した構成において、 このデータ 圧縮処理に対応する順序により、 各画素の撮像結果を各系統より出力する。
すなわち例えばデータ圧縮処理が所定ライン数のタップ入力を有する 2次元フ ィルタの処理に係るラインベースウェーブレツト変換処理の場合、 この実施例で は、 このラインベースウェーブレット変換処理に対応して、 第 9 ( C ) 図に示す ライン単位の出力をさらに複数ラインでまとめ、 これによりライン単位による複 数系統により同時並列的に撮像結果を出力する。 しかしてこの複数ラインが 2ラ インの場合、 第 7 ( B ) 図に示す接続により各画素の撮像結果を出力することに なる。 またこのライン単位の撮像結果を処理して画像データを生成した後、 この 画像データをデータ圧縮するようにして、 このデータ圧縮処理の順序に対応する 順序により各ラインの撮像結果を出力する。 これによりこのラインべ一スウェー ブレット変換処理による場合、 各ラインにおいては、 ラスタ走査の順序に対応す る水平方向への順序により各画素の撮像結果を順次出力する。 '
これに対してこのラインベースウェーブレット変換処理に係るラインを撮像素 子のコラム線方向に設定したデータ圧縮処理は、 第 9 ( B ) 図に示すコラム線を 単位の出力を複数のコラム線でまとめて撮像結果を出力するようにして、 撮像結 果の上方向から下方向への順序で順次撮像結果を出力する。
これに対して例えば M P E G等の処理であるマクロブロックを単位とした動き 補償及び直交変換処理に係るデータ圧縮処理は、 例えば第 9 (D ) 図に示すよう に、 垂直方向及び水平方向、 所定の複数画素によるブロックを単位にして撮像結 果を出力するようにして、 このブロックをマクロブロックの大きさに設定し、 各 ブロックにおいては、 このマクロブロックに係るデータ圧縮処理の順序により撮 像結果を出力する。
これらによりこの実施例は、 配線層の下層に周辺回路を形成する構成を有効に 利用して、 高速度に撮像結果をデータ圧縮処理して、 高いフレーム周波数による 撮像結果を確実に処理する。
またこれに対して画像圧縮部 8、 1 3は、 水平方向及び垂直方向にそれぞれ複 数の画素によるブロックを、 順次、 各処理系統 C 1〜C 3に割り当てて、 同時並 列的にデータ圧縮の処理を実行する。 これにより画像圧縮部は、 マクロブロック を単位にしたデータ圧縮の処理において、 第 8図との対比により第 1 0図に示す ように、 順次ラスタ走査の順序により順次循環的に各マクロプロックを処理回路 C 1〜C 3に割り当てて、 データ圧縮処理する。
これに対してラインベースウェーブレツト変換処理に係るデータ圧縮処理にあ つて、 第 7 ( B ) 図、 第 9 ( C ) 図について上述したライン単位による処理にお いては、 撮像結果に係る画像を垂直方向に等分割して処理回路 C '1〜C 3に割り 当て、 データ圧縮の処理を実行する。 またラインベースウェーブレット変換処理 に係るデータ圧縮処理にあって、 第 9 ( B ) 図に示すコラム線単位による処理に おいては、 撮像結果に係る画像を水平方向に等分割して処理回路 C 1〜C 3に割 り当て、 データ圧縮の処理を実行する。
これらによりこの実施例においては、 データ圧縮処理における並列処理の系統 数を切り換えてデータ圧縮の処理速度を可変する場合、 この系統数の切り換えに 対応するように各系統への割り当てを切り換える。
この実施例によれば、 撮像結果を複数系統により同時並列的に出力するように して、 コラム線を単位にしてデータ圧縮手段の処理の順序に対応する順序による 撮像結果を出力することにより、 又はラインを単位にしたデータ圧縮手段の処理 の順序に対応する順序により撮像結果を出力することにより、 さらには水平方向 及ぴ垂直方向にそれぞれ複数の画素によるプロックを単位にしたデータ圧縮手段 の処理の順序に対応する順序により撮像結果を出力することにより、 配線層の下 層に周辺回路を形成する構成を有効に利用して、 高速度に撮像結果をデータ圧縮 処理して、 高いフレーム周波数による撮像結果を確実に処理することができる。
( 1 0 ) 他の実施例
なお上述の実施例においては、 データ圧縮処理に係る処理速度を種々の手法に より可変する場合について述べたが、 本発明はこれに限らず、 上述の実施例に係 る種々の手法の組み合わせによりデータ圧縮処理に係る処理速度を可変するよう にしてもよレ、。
また上述の実施例 2においては、 データ圧縮手段における処理時間に応じて、 撮像手段の電荷蓄積時間、 データ圧縮手段の処理時間を可変する構成において、 データ圧縮手段の処理時間に応じて、 撮像手段から出力される撮像結果を一時記 憶してデータ圧縮手段でデータ圧縮する場合について述べたが、 本発明はこれに 限らず、 実用上十分に、 高フレーム周波数により撮像結果をデータ圧縮処理でき る場合には、 撮像手段の電荷蓄積時間、 データ圧縮手段の処理時間を可変する構 成を省略するようにしてもよい。
また上述の実施例においては、 駆動回路、 アナログディジタル変換回路、 画像 圧縮部による周辺回路、 これらにメモリ部を加えた周辺回路を撮像素子部を一体 に集積回路化する場合について述べたが、 本発明はこれに限らず、 これらに加え て制御部の全部又は一部を一体に集積回路化するようにしてもよレ、。
また上述の実施例においては、 電荷蓄積時間と処理時間との比較により各部を 制御する場合について述べたが、 本発明はこれに限らず、 フレーム周期と処理時 間との比較により各部を制御するようにしてもよい。
また上述の実施例においては、 撮像手段に CMO S固体撮像素子を適用して電 荷蓄積時間の制御により撮像結果のフレーム周期を可変する場合について述べた 力 本発明はこれに限らず、 電荷蓄積時間を一定に保持してフレーム周期を可変 するようにしてもよく、 また C MO S固体撮像素子に代えて、 C C D固体撮像素 子を適用する場合にも広く適用することができる 産業上の利用可能性
本発明は、 撮像装置、 撮像素子及び撮像装置の制御方法に関し、 例えば動画に よる撮像結果を記録するビデオカメラ、 電子スチルカメラ、 監視装置等に適用す ることができる。

Claims

請求の範囲
1 . 駆動回路による駆動により撮像結果を出力する撮像手段と、
前記撮像手段から出力される撮像結果をデータ圧縮して出力するデータ圧縮手 段と、
前記データ圧縮手段のデータ圧縮処理に要した処理時間に応じて、 前記撮像手 段の電荷蓄積時間又はフレーム周期、 若しくは前記データ圧縮手段の処理時間を 可変する制御手段と
を備えることを特徴とする撮像装置。
2 . 前記制御手段は、
前記処理時間が、 前記電荷蓄積時間又はフレーム周期より長くなると、 前記電 荷蓄積時間又はフレーム周期が長くなるように、 前記撮像手段を制御する
ことを特徴とする請求の範囲第 1項に記載の撮像装置。
3 . 前記制御手段は、
前記処理時間が、 前記電荷蓄積時間又はフレーム周期より長くなると、 前記処 理時間が短くなるように、 前記データ圧縮部を制御する
ことを特徴とする請求の範囲第 1項に記載の撮像装置。
4 . 前記撮像手段から出力される撮像結果を一時記憶して前記データ圧縮手段に 出力する記憶手段を有し、
前記制御手段は、
前記処理時間に応じて、 撮像手段から出力される撮像結果を前記記憶手段に、 —時記憶して前記データ圧縮手段でデータ圧縮するように、 前記記憶手段、 前記 データ圧縮手段の動作を制御する
ことを特徴とする請求の範囲第 1項に記載の撮像装置。
5 . 前記データ圧縮手段の処理時間の可変が、 前記データ圧縮手段のクロックの切り換えによる前記処理時間の可変である ことを特徴とする請求の範囲第 1項に記載の撮像装置。
6 . 前記撮像手段は、
有効撮像領域の一部領域の撮像結果を選択的に出力し、
前記データ圧縮手段の処理時間の可変が、
前記一部領域の大きさの可変による前記データ圧縮手段で処理するサンプリン グ数の可変による前記処理時間の可変である
ことを特徴とする請求の範囲第 1項に記載の撮像装置。
7 . 前記データ圧縮手段は、
記憶手段を介して、 前記撮像手段より出力され.る撮像結果による画像の一部領 域の撮像結果を選択的に取得して処理し、
前記データ圧縮手段の処理時間の可変が、 . +
前記一部領域の大きさの可変による前記データ圧縮手段で処理するサンプリン グ数の可変による前記処理時間の可変である
ことを特徴とする請求の範囲第 1項に記載の撮像装置。
8 . 前記撮像手段は、
少なくとも前記駆動手段、 前記データ圧縮手段による周辺回路と一体に集積回 路化して形成された
ことを特徴とする請求の範囲第 1項に記載の撮像装置。
9 . 前記撮像手段は、
マトリックス状に光電変換部を配置した部位の、 受光面とは逆側の面に形成さ れた配線層により、 前記周辺回路と接続された
ことを特徴とする請求の範囲第 8項に記載の撮像装置。
1 0 . 前記周辺回路が、 前記配線層の下層に形成きれた .
ことを特徴とする請求の範囲第 9項に記載の撮像装置。
1 1 . 前記撮像手段の撮像結果を、 複数系統により同時並列的に出力する
ことを特徴とする請求の範囲第 1 0項に記載の撮像装置。
1 2 . 前記複数系統による同時並列的な撮像結果の出力が、
コラム線を単位にした前記データ圧縮手段の処理の順序に対応する順序による 各画素の撮像結果の出力である .
ことを特徴とする請求の範囲第 1 1項に記載の撮像装置。
1 3 . 前記複数系統による同時並列的な撮像結果の出力が、
ラインを単位にした前記データ圧縮手段の処理の順序に対応する順序による各 画素の撮像結果の出力である
ことを特徴とする請求の範囲第 1 1項に記載の撮像装置。
1 4 . 前記複数系統による同時並列的な撮像結果の出力が、
• 前記撮像結果による画像に対して設定された、 水平方向及び垂直方向にそれぞ れ複数の画素によるプロックを単位にした、 前記データ圧縮手段の処理の順序に 対応する順序による各画素の撮像結果の出力である
ことを特徴とする請求の範囲第 1 1項に記載の撮像装置。
1 5 . 前記データ圧縮手段は、
複数系統の並列処理により前記撮像結果をデータ圧縮処理し、
前記データ圧縮手段の処理時間の可変が、
前記データ圧縮手段の処理に係る系統数の切り換えによる前記処理時間の可変 である
ことを特徴とする請求の範囲第 1項に記載の撮像装置。
1 6 . 前記データ圧縮手段は、
前記撮像結果による画像に対して設定された、 水平方向及び垂直方向にそれぞ れ複数の画素によるプロックを前記各系統に順次割り当ててデータ圧縮の処理を 実行する
ことを特徴とする請求の範囲第 1 5項に記載の撮像装置。
1 7 . 前記マトリ ックス状に各画素の光電変換部を配置した部位と、 前記周辺回 路とが異なるウェハ生成プロセスにより形成された
ことを特徴とする請求の範囲第 1 0項に記載の撮像装置。
1 8 . 駆動回路による駆動により撮像結果を出力する撮像手段と、
前記撮像手段から出力される撮像結果をデータ圧縮して出力するデータ圧縮手 段とを一体化した撮像素子であって、
前記データ圧縮手段においてデータ圧縮処理に要した処理時間に応じて、 前記 撮像手段の電荷蓄積時間又はフレーム周期、 若しくは前記データ圧縮手段の処理 時間を可変する制御手段の全部又は一部を有する
ことを特徴とする撮像素子。
1 9 . 駆動回路による駆動により撮像結果を出力する撮像手段と、
前記撮像手段から出力される撮像結果をデータ圧縮して出力するデータ圧縮手 段とを備える撮像装置の制御方法において、
前記データ圧縮手段においてデータ圧縮処理に要した処理時間に応じて、 前記 撮像手段の電荷蓄積時間又はフレーム周期、 若しくは前記データ圧縮手段の処理 時間を可変する
ことを特徴とする撮像装置の制御方法。
2 0 . 駆動回路による駆動により撮像結果を出力する撮像部と、
前記撮像部から出力される撮像結果をデータ圧縮して出力するデータ圧縮部と 前記データ圧縮部のデータ圧縮処理に要した処理時間に応じて、 前記撮像部の 電荷蓄積時間又はフレーム周期、 若しくは前記データ圧縮部の処理時間を可変す る制御部と
を備えることを特徴とする撮像装置。
PCT/JP2005/011885 2004-07-01 2005-06-22 撮像装置、撮像素子及び撮像装置の制御方法 WO2006003906A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
EP05755746A EP1768386A4 (en) 2004-07-01 2005-06-22 IMAGE FASTENING DEVICE, IMAGE CAPTURE ELEMENT, AND PICTURE DEVICE CONTROL METHOD
CA 2572021 CA2572021A1 (en) 2004-07-01 2005-06-22 Image pickup apparatus, image pickup element, and method for controlling image pickup apparatus
KR1020067024992A KR101130375B1 (ko) 2004-07-01 2005-06-22 촬상 장치, 촬상 소자 및 촬상 장치의 제어 방법
CN2005800223935A CN1981515B (zh) 2004-07-01 2005-06-22 摄像装置、摄像元件及摄像装置的控制方法
US11/630,005 US7719578B2 (en) 2004-07-01 2006-06-22 Image pickup apparatus, image pickup element, and method for controlling image pickup apparatus

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2004-195298 2004-07-01
JP2004195298A JP4534630B2 (ja) 2004-07-01 2004-07-01 撮像装置、撮像素子及び撮像装置の制御方法

Publications (1)

Publication Number Publication Date
WO2006003906A1 true WO2006003906A1 (ja) 2006-01-12

Family

ID=35782714

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2005/011885 WO2006003906A1 (ja) 2004-07-01 2005-06-22 撮像装置、撮像素子及び撮像装置の制御方法

Country Status (8)

Country Link
US (1) US7719578B2 (ja)
EP (1) EP1768386A4 (ja)
JP (1) JP4534630B2 (ja)
KR (1) KR101130375B1 (ja)
CN (1) CN1981515B (ja)
CA (1) CA2572021A1 (ja)
TW (1) TWI272840B (ja)
WO (1) WO2006003906A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5216245B2 (ja) 2007-06-01 2013-06-19 株式会社日立製作所 記憶システム、記憶制御装置及びデータ圧縮方法
JP2010244316A (ja) * 2009-04-07 2010-10-28 Sony Corp 符号化装置および方法、並びに、復号装置および方法
JP5263023B2 (ja) * 2009-06-17 2013-08-14 ペンタックスリコーイメージング株式会社 撮像装置
US20130242186A1 (en) * 2012-03-14 2013-09-19 Samsung Electronics Co., Ltd. Image processing apparatus and control method thereof
US9274275B2 (en) 2013-07-03 2016-03-01 Cisco Technology, Inc. Photonic integration platform

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07221461A (ja) * 1994-01-31 1995-08-18 Hitachi Ltd 回路実装方式
JPH09163193A (ja) * 1995-12-09 1997-06-20 Sony Corp ビデオカメラ装置
JP2000350059A (ja) * 1999-06-09 2000-12-15 Sharp Corp ビデオカメラ
JP2001352471A (ja) * 2000-06-07 2001-12-21 Toshiba Corp ビデオカメラ装置
JP2003234967A (ja) * 2002-02-12 2003-08-22 Photron Ltd 高速撮像装置
JP2004064559A (ja) * 2002-07-30 2004-02-26 Matsushita Electric Ind Co Ltd 画像処理装置及び画像処理方法
JP2004112360A (ja) * 2002-09-19 2004-04-08 Ricoh Co Ltd デジタルカメラ
US20040080626A1 (en) 2002-09-26 2004-04-29 Canon Kabushiki Kaisha Image generating apparatus and image generating method
JP2004146816A (ja) * 2002-09-30 2004-05-20 Matsushita Electric Ind Co Ltd 固体撮像装置およびこれを用いた機器

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3372289B2 (ja) * 1993-04-28 2003-01-27 富士写真フイルム株式会社 ディジタルカメラ
JP3427454B2 (ja) * 1993-12-21 2003-07-14 株式会社ニコン スチルカメラ
JP3707820B2 (ja) * 1995-03-07 2005-10-19 株式会社フォトロン 高速撮影装置
JP3185763B2 (ja) * 1998-07-13 2001-07-11 日本電気株式会社 動画像符号化装置
JP3443341B2 (ja) * 1998-10-19 2003-09-02 三洋電機株式会社 ディジタルカメラ
JP2001346216A (ja) * 2000-06-06 2001-12-14 Toshiba Corp 動画像圧縮方法および情報処理装置
JP4123415B2 (ja) * 2002-05-20 2008-07-23 ソニー株式会社 固体撮像装置
JP2004031785A (ja) 2002-06-27 2004-01-29 Fujitsu Ltd 半導体装置及び半導体装置の設計方法
US7532760B2 (en) * 2002-08-27 2009-05-12 Aptina Imaging Corporation CMOS image sensor apparatus with on-chip real-time pipelined JPEG compression module
CN1234234C (zh) * 2002-09-30 2005-12-28 松下电器产业株式会社 固体摄像器件及使用该固体摄像器件的设备

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07221461A (ja) * 1994-01-31 1995-08-18 Hitachi Ltd 回路実装方式
JPH09163193A (ja) * 1995-12-09 1997-06-20 Sony Corp ビデオカメラ装置
JP2000350059A (ja) * 1999-06-09 2000-12-15 Sharp Corp ビデオカメラ
JP2001352471A (ja) * 2000-06-07 2001-12-21 Toshiba Corp ビデオカメラ装置
JP2003234967A (ja) * 2002-02-12 2003-08-22 Photron Ltd 高速撮像装置
JP2004064559A (ja) * 2002-07-30 2004-02-26 Matsushita Electric Ind Co Ltd 画像処理装置及び画像処理方法
JP2004112360A (ja) * 2002-09-19 2004-04-08 Ricoh Co Ltd デジタルカメラ
US20040080626A1 (en) 2002-09-26 2004-04-29 Canon Kabushiki Kaisha Image generating apparatus and image generating method
JP2004146816A (ja) * 2002-09-30 2004-05-20 Matsushita Electric Ind Co Ltd 固体撮像装置およびこれを用いた機器

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP1768386A4

Also Published As

Publication number Publication date
TW200612740A (en) 2006-04-16
CN1981515A (zh) 2007-06-13
EP1768386A1 (en) 2007-03-28
TWI272840B (en) 2007-02-01
CN1981515B (zh) 2012-07-04
CA2572021A1 (en) 2006-01-12
JP4534630B2 (ja) 2010-09-01
KR20070036053A (ko) 2007-04-02
KR101130375B1 (ko) 2012-03-28
EP1768386A4 (en) 2010-07-21
JP2006020023A (ja) 2006-01-19
US20080062281A1 (en) 2008-03-13
US7719578B2 (en) 2010-05-18

Similar Documents

Publication Publication Date Title
JP4403396B2 (ja) 撮像装置及び撮像素子の集積回路
JP4816457B2 (ja) 撮像装置及び撮像結果の出力方法
KR101148334B1 (ko) 촬상 장치와 촬상 결과의 처리 방법
JP4609092B2 (ja) 物理情報取得方法および物理情報取得装置
JP2002252338A (ja) 撮像装置及び撮像システム
JP2009060342A (ja) 撮像装置及びccd型固体撮像素子の駆動方法
WO2006003906A1 (ja) 撮像装置、撮像素子及び撮像装置の制御方法
JP4978719B2 (ja) 撮像装置
JP2018174592A (ja) 電子機器
JP2018133600A (ja) 撮像装置、撮像装置の制御方法、およびプログラム
JP2004120391A (ja) 固体撮像装置

Legal Events

Date Code Title Description
AK Designated states

Kind code of ref document: A1

Designated state(s): AE AG AL AM AT AU AZ BA BB BG BR BW BY BZ CA CH CN CO CR CU CZ DE DK DM DZ EC EE EG ES FI GB GD GE GH GM HR HU ID IL IN IS KE KG KM KP KR KZ LC LK LR LS LT LU LV MA MD MG MK MN MW MX MZ NA NG NI NO NZ OM PG PH PL PT RO RU SC SD SE SG SK SL SM SY TJ TM TN TR TT TZ UA UG US UZ VC VN YU ZA ZM ZW

AL Designated countries for regional patents

Kind code of ref document: A1

Designated state(s): GM KE LS MW MZ NA SD SL SZ TZ UG ZM ZW AM AZ BY KG KZ MD RU TJ TM AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HU IE IS IT LT LU MC NL PL PT RO SE SI SK TR BF BJ CF CG CI CM GA GN GQ GW ML MR NE SN TD TG

121 Ep: the epo has been informed by wipo that ep was designated in this application
WWE Wipo information: entry into national phase

Ref document number: 6697/DELNP/2006

Country of ref document: IN

WWE Wipo information: entry into national phase

Ref document number: 1020067024992

Country of ref document: KR

WWE Wipo information: entry into national phase

Ref document number: 2005755746

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 11630005

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 2572021

Country of ref document: CA

WWE Wipo information: entry into national phase

Ref document number: 200580022393.5

Country of ref document: CN

NENP Non-entry into the national phase

Ref country code: DE

WWW Wipo information: withdrawn in national office

Ref document number: DE

WWP Wipo information: published in national office

Ref document number: 2005755746

Country of ref document: EP

WWP Wipo information: published in national office

Ref document number: 1020067024992

Country of ref document: KR

WWP Wipo information: published in national office

Ref document number: 11630005

Country of ref document: US