JPWO2018180510A1 - 撮像素子、並びに、撮像装置および方法 - Google Patents

撮像素子、並びに、撮像装置および方法 Download PDF

Info

Publication number
JPWO2018180510A1
JPWO2018180510A1 JP2019509230A JP2019509230A JPWO2018180510A1 JP WO2018180510 A1 JPWO2018180510 A1 JP WO2018180510A1 JP 2019509230 A JP2019509230 A JP 2019509230A JP 2019509230 A JP2019509230 A JP 2019509230A JP WO2018180510 A1 JPWO2018180510 A1 JP WO2018180510A1
Authority
JP
Japan
Prior art keywords
data
unit
code
encoded data
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019509230A
Other languages
English (en)
Other versions
JP7176511B2 (ja
Inventor
利昇 井原
利昇 井原
武文 名雲
武文 名雲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2018180510A1 publication Critical patent/JPWO2018180510A1/ja
Application granted granted Critical
Publication of JP7176511B2 publication Critical patent/JP7176511B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91Entropy coding, e.g. variable length coding [VLC] or arithmetic coding
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/40Conversion to or from variable length codes, e.g. Shannon-Fano code, Huffman code, Morse code
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/48Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using compressed domain processing techniques other than decoding, e.g. modification of transform coefficients, variable length coding [VLC] data or run-length data

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Abstract

本開示は、禁止コードの発生を回避しつつ、画像データを固定長圧縮させることができるようにする撮像素子、並びに、撮像装置および方法に関する。入射光を受光し、光電変換する受光部において得られた画像データをゴロム符号化し、LSBにビット1の符号化データの反転符号を追加することで、禁止コードを含まない符号化データに圧縮する。本開示は、撮像装置に適用することができる。

Description

本開示は、撮像素子、並びに、撮像装置および方法に関し、特に、禁止コードの発生を回避しつつ、画像データを固定長圧縮できるようにした撮像素子、並びに、撮像装置および方法に関する。
従来、入射光を光電変換する受光部が形成される半導体基板が封止され、撮像素子(イメージセンサ)としてモジュール化されるものがある。
このようなモジュール化された撮像素子は、入射光を光電変換し、画像データを生成し、その画像データを非圧縮の状態で(例えばRAWデータで)出力し、メイン基板に伝送する。
このような積層型イメージセンサにおける、画像圧縮による出力インタフェース帯域を削減する技術が提案されている(特許文献1参照)。
特開2014−103543号公報
しかしながら、特許文献1に係る技術においては、画像圧縮後のデータに禁止コードが存在しないことが保証されないため、禁止コードを有する出力インタフェースでは既存の固定長画像圧縮をそのまま適用することができないことがあった。
本開示は、このような状況に鑑みてなされたものであり、特に、禁止コードの発生を回避しつつ、画像データを固定長圧縮できるようにするものである。
本開示の一側面の撮像素子は、入射光を受光し、光電変換する受光部と、前記受光部において得られた画像データを、同一の符号が所定数より多く連続して配置される禁止コードを含まない符号化データに圧縮する圧縮部とを備える撮像素子である。
前記圧縮部には、前記画像データを圧縮させ、ダミービットを付加させて、同一の符号が所定数より多く連続して配置される前記禁止コードを含まない符号化データに圧縮させるようにすることができる。
前記画像データは、前記受光部の各単位画素において得られた画素データの集合とすることができ、前記圧縮部には、前記画素データ同士の差分値をゴロム符号化させ、前記ダミービットを付加させて、前記画像データを、前記禁止コードを含まない符号化データに圧縮させるようにすることができる。
前記圧縮部には、固定の圧縮率で前記画像データを圧縮させ、前記ダミービットを付加させて、前記禁止コードを含まない符号化データに圧縮させるようにすることができる。
前記画像データは、前記受光部の各単位画素において得られた画素データの集合とすることができ、前記圧縮部は、前記画素データのうち、直前に符号化した前記符号化データに基づいて、前記画素データ同士の差分値のゴロム符号化、または、前記画素データ同士の差分値を前記ゴロム符号化に対する反転符号に符号化する反転ゴロム符号化のいずれかにより、前記禁止コードを含まない符号化データに圧縮させるようにすることができる。
前記圧縮部には、前記画素データのうち、直前に符号化した符号化データの所定ビットの値に基づいて、前記ゴロム符号化、または、前記反転ゴロム符号化のいずれかにより、前記画素データ同士の差分値を、前記禁止コードを含まない符号化データに圧縮させるようにすることができる。
前記所定ビットは、LSB(Least Significant Bit)、またはMSB(Most Significant Bit)とすることができる。
前記圧縮部には、前記直前に符号化した画素データ同士の差分値の符号化データの所定ビットが所定回数連続して同一値である場合、直前の画素データ同士の差分値を前記ゴロム符号化したときは、前記反転ゴロム符号化させ、直前の画素データ同士の差分値を前記反転ゴロム符号化したときは、前記ゴロム符号化させることで、前記禁止コードを含まない符号化データに圧縮させるようにすることができる。
前記禁止コードは、前記符号化データに含まれる、1または0が所定数よりも多く連続するコードとすることができる。
本開示の一側面の撮像素子の撮像方法は、入射光を受光し、光電変換する受光部において得られた画像データを、同一の符号が所定数より多く連続して配置される禁止コードを含まない符号化データに圧縮するステップを含む撮像素子の撮像方法である。
本開示の一側面の撮像装置は、入射光を受光し、光電変換する受光部と、前記受光部において得られた画像データを、同一の符号が所定数より多く連続して配置される禁止コードを含まない符号化データに圧縮する圧縮部とを備える撮像素子と、前記撮像素子より出力される、前記圧縮部により前記画像データが圧縮されて得られる前記符号化データを伸張する伸張部とを備える撮像装置である。
前記圧縮部には、前記画像データを圧縮させ、ダミービットを付加させて、同一の符号が所定数より多く連続して配置される前記禁止コードを含まない符号化データに圧縮させるようにすることができる。
前記画像データは、前記受光部の各単位画素において得られた画素データの集合とすることができ、前記圧縮部には、前記画素データ同士の差分値をゴロム符号化させ、前記ダミービットを付加させて、前記画像データを、前記禁止コードを含まない符号化データに圧縮させるようにすることができる。
前記圧縮部には、固定の圧縮率で前記画像データを圧縮させ、前記ダミービットを付加させて、前記禁止コードを含まない符号化データに圧縮させるようにすることができる。
前記画像データは、前記受光部の各単位画素において得られた画素データの集合とすることができ、前記圧縮部には、前記画素データのうち、直前に符号化した画素データに基づいて、前記画素データ同士の差分値のゴロム符号化、または、前記画素データ同士の差分値を前記ゴロム符号化に対する反転符号に符号化する反転ゴロム符号化のいずれかにより、前記禁止コードを含まない符号化データに圧縮させるようにすることができる。
前記圧縮部には、前記画素データのうち、直前に符号化した画素データの所定ビットの値に基づいて、前記ゴロム符号化、または、前記反転ゴロム符号化のいずれかにより、前記画素データ同士の差分値を、前記禁止コードを含まない符号化データに圧縮させるようにすることができる。
前記所定ビットは、LSB(Least Significant Bit)、またはMSB(Most Significant Bit)とすることができる。
前記圧縮部には、前記直前に符号化した画素データ同士の差分値の符号化データの所定ビットが所定回数連続して同一値である場合、直前の画素データ同士の差分値を前記ゴロム符号化したときは、前記反転ゴロム符号化させ、直前の画素データ同士の差分値を前記反転ゴロム符号化したときは、前記ゴロム符号化させることで、前記禁止コードを含まない符号化データに圧縮させるようにすることができる。
前記禁止コードは、前記符号化データに含まれる、1または0が所定数よりも多く連続するコードとすることができる。
本開示の一側面の撮像装置の撮像方法は、入射光を受光し、光電変換する受光部と、前記受光部において得られた画像データを、同一の符号が所定数より多く連続して配置される禁止コードを含まない符号化データに圧縮する圧縮部とを備える撮像素子より出力される、前記圧縮部により前記画像データが圧縮されて得られる前記符号化データを伸張するステップを含む撮像装置の撮像方法である。
本開示の一側面においては、入射光が受光され、光電変換され、前記光電変換により得られた画像データが、同一の符号が所定数より多く連続して配置される禁止コードを含まない符号化データに圧縮される。
本開示の一側面によれば、特に、禁止コードの発生を回避しつつ、画像データを固定長圧縮させることが可能となる。
本開示の撮像素子および画像処理装置の構成例を示す図である。 図1の圧縮部の第1の実施の形態の構成例を示す図である。 図2の圧縮部の処理を説明する図である。 図1の伸張部の第1の実施の形態の構成例を示す図である。 本開示の撮像素子による撮像処理を説明するフローチャートである。 図5の圧縮処理を説明するフローチャートである。 図6のゴロム符号化処理を説明するフローチャートである。 図6のゴロム符号化処理を説明する図である。 本開示の画像処理装置の画像処理を説明するフローチャートである。 図9の伸張処理を説明するフローチャートである。 図1の圧縮部の第2の実施の形態の構成例を示す図である。 図11の反転ゴロム符号化処理を説明する図である。 図11の反転ゴロム符号化処理を説明する図である。 図1の伸張部の第2の実施の形態の構成例を示す図である。 図11の圧縮部による圧縮処理を説明するフローチャートである。 図15の反転ゴロム符号化処理を説明するフローチャートである。 図14の伸張部による伸張処理を説明するフローチャートである。 本開示の撮像素子を適用した電子機器としての撮像装置の構成例を示すブロック図である。 本開示の技術を適用した撮像素子の使用例を説明する図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
以下、本開示を実施するための形態(以下実施の形態とする)について説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態
2.第2の実施の形態
3.電子機器への適用例
4.固体撮像装置の使用例
<1.第1の実施の形態>
<撮像素子>
図1は、本技術を適用した撮像素子の主な構成例を示すブロック図である。図1に示される撮像素子100は、被写体を撮像し、撮像画像のデジタルデータ(画像データ)を得て、その画像データを出力するイメージセンサである。撮像素子100は、任意のイメージセンサであり、例えば、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge Coupled Device)を用いたイメージセンサ等としてもよい。
図1のAに示されるように、撮像素子100は、斜線模様で示される半導体基板101と、白色で示される半導体基板102とを有する。半導体基板101および半導体基板102は、図1のBに示されるように重畳された状態で封止され、モジュール化(一体化)される。
つまり、図1のCに示されるように、半導体基板101および半導体基板102は、多層構造(積層構造)を形成する。半導体基板101に形成される回路と半導体基板102に形成される回路は、ビア(VIA)等により互いに接続される。
このように、撮像素子100は、半導体基板101と半導体基板102が多層構造を形成するように一体化されたモジュール(LSI(Large Scale Integration)チップとも称する)である。モジュール内部において半導体基板101と半導体基板102がこのように多層構造を形成することにより、撮像素子100は、半導体基板のサイズを増大させずに、より大規模な回路の実装を実現することができる。すなわち、撮像素子100は、コストの増大を抑制しながら、より大規模な回路を実装することができる。
図1のAに示されるように、半導体基板101には、受光部111およびA/D変換部112が形成される。また、半導体基板102には、圧縮部113、インタフェース処理部114、および出力部115が形成される。
受光部111は、入射光を受光し、光電変換する。受光部111は、例えばフォトダイオード等の光電変換素子を有する単位画素を複数有する。各単位画素には、光電変換により、入射光に相当する電荷が蓄積される。受光部111は、各単位画素において蓄積された電荷を電気信号(画素信号)としてA/D変換部112に供給する。
A/D変換部112は、受光部111から供給される各画素信号をA/D変換し、デジタルデータの画素データを生成する。A/D変換部112は、このように生成した各単位画素の画素データの集合を画像データとして圧縮部113に供給する。つまり、圧縮部113には、デモザイク処理される前のRAWデータが供給される。
圧縮部113は、A/D変換部112から供給される画像データ(RAWデータ)を、所定の方法で圧縮することにより、符号化データを生成する。この符号化データのデータ量は、圧縮前の画像データより小さい。つまり、圧縮部113は画像データのデータ量を低減させる。
図1に示されるように、圧縮部113は、撮像素子100に実装される。つまり、圧縮部113は、撮像素子100に内蔵される回路、若しくは、撮像素子100の内部において実行されるソフトウェアとして実現される。そのため、圧縮部113による圧縮の方法は、基本的に任意であるが、上述したように撮像素子100(モジュール内)に実装可能なものでなければならない。
画像データの圧縮方法の代表的なものとして、例えば、JPEG(Joint Photographic Experts Group)やMPEG(Moving Picture Experts Group)がある。これらの圧縮方法は、高度なものであり、その処理が複雑で、回路規模も大きく、撮像素子100の製造コストが増大し易い。そのため、一般的に、これらのような高度な圧縮方法を、回路やソフトウェアとして撮像素子100に実装することは困難である。また、仮に実装したとしても、処理時間(クロック数)が長くて遅延時間が増大しやすく、符号化処理がフレームレートに間に合わない等、実用的でない場合も考えられる。さらに、圧縮率がベストエフォートのためピン数やバス帯域の低減に寄与しない場合も考えられる。
そこで、圧縮部113は、例えばJPEGやMPEG等のような高度な圧縮方法よりも処理が簡潔で、かつ、処理時間(クロック数)が短く、少なくとも撮像素子100(モジュール内、特に、受光部111を有する半導体基板101と積層構造を形成する半導体基板102)に実装可能な方法で、画像データの圧縮を行う。以下において、このような圧縮を簡易圧縮とも称する。つまり、圧縮部113は、A/D変換部112から供給される画像データ(RAWデータ)を簡易圧縮することにより、符号化データを生成する。
この簡易圧縮の具体的な圧縮方法は、上述した条件を満たす限り基本的に任意である。例えば、可逆な方法であっても良いし、非可逆な方法であっても良い。ただし、一般的に、半導体基板102を大きくするとコストが増大する。また、処理時間(クロック数)が長くなると遅延時間が増大する。そのため、この簡易圧縮には、処理がより簡潔で、かつ、処理時間がより短い方法を適用するのが望ましい。
例えば、一般的に、A/D変換部112は、各単位画素の画素データ(画像データ)を、所定の順序で1次元状に並べて(画素データ列として)圧縮部113に供給するが、圧縮の際に、その画像データをバッファ(保持)する必要があると、その分、処理時間が増大する恐れがある。そのため、簡易圧縮には、A/D変換部112から供給される画像データ(画素データ列)を、できるだけバッファする必要なく、順次圧縮することができる方法を適用するのが望ましい。例えば、簡易圧縮には、DPCM(Differential Pulse Code Modulation)を用いる圧縮方法や、1次元DCT(Discrete Cosine Transform)を用いる圧縮方法を適用することができる。
もちろん、集積度の向上等によって、撮像素子100に安価に実装することができ、遅延時間も許容範囲内に収まる程に高速動作が可能であり、十分な圧縮率が得られるのであれば、JPEGやMPEG等のような高度な圧縮方法を、圧縮部113の圧縮方法として適用してもよい。
圧縮部113は、画像データを簡易圧縮して得られた符号化データをインタフェース処理部114に供給する。
インタフェース処理部114は、符号化データを画像処理装置130に出力する際、出力に使用するI/OセルやI/Oピン等に応じた形式に変換して、出力部115に出力する。
出力部115は、例えばI/OセルやI/Oピン等よりなり、インタフェース処理部114を介して圧縮部113から供給される符号化データを撮像素子100の外部に出力する。出力部115より出力された符号化データは、バス121を介して画像処理装置130の入力部131に供給される。
画像処理装置130は、撮像素子100において得られた画像データに対する画像処理を行う装置である。図1のAに示されるように、画像処理装置130は、入力部131、インタフェース処理部132、および伸張部133を有する。
入力部131は、バス121を介して撮像素子100(出力部115)から伝送される符号化データを受け付ける。入力部131は、取得した符号化データをインタフェース処理部132に供給する。
インタフェース処理部132は、インタフェース処理部114に対応する構成であり、I/OセルやI/Oピン等に応じた形式に変換された符号化データを元の形式に戻して伸張部133に供給する。
伸張部133は、インタフェース処理部132を介して入力部131から供給される符号化データを、圧縮部113の圧縮方法に対応する方法で伸長し、画像データを復元する。つまり、伸張部133は、インタフェース処理部132を介して入力部131から供給される符号化データを、圧縮部113による簡易圧縮に対応する方法で伸長し、画像データを復元する。復元された画像データは、例えば、画像処理装置130等により、画像処理されたり、記憶されたり、画像を表示されたりする。
以上のように、撮像素子100は、モジュール内(LSIチップ内)において、受光部111において得られた画像データを圧縮し、そのデータ量を低減させて出力する。したがって、バス121の、画像データ(符号化データ)を伝送するのに必要な帯域が低減されるので、撮像素子100は、バス121の帯域幅を変更せずに、より大容量のデータをより高速に出力することができる。つまり、撮像素子100は、出力部115のI/OセルやI/Oピンの数を増大させずに、すなわち、コストを増大させずに、より大容量のデータをより高速に出力することができる。
換言するに、撮像素子100は、バス121の帯域制限の影響を抑制することができ、コストを増大させずに(出力部115のI/OセルやI/Oピンの数を増大させずに)、画像の高解像度化、静止画像の撮像から記録までの処理の高速化、連写数や連写速度の向上、動画像のフレームレートの高速化、動画像および静止画像の撮像等といった、撮像性能を向上させることができる。
<圧縮部>
図2は、図1の圧縮部113の主な構成例を示すブロック図である。圧縮部113は、DPCM処理部141、ゴロム(Golomb)符号化部142、および圧縮率調整部143を有する。
DPCM処理部141は、A/D変換部112から供給される画像データ(1次元に並べられた画素データ列)の、連続する画素データ同士の差分値(以下、残差とも称する)を算出する。DPCM処理部141は、算出した各差分値をゴロム符号化部142に供給する。
ゴロム符号化部142は、DPCM処理部141から供給される各差分値をゴロム符号(Golomb Coding)に符号化する。ゴロム符号化部142は、そのゴロム符号(符号化データ)を圧縮率調整部143に供給する。
圧縮率調整部143は、ゴロム符号化部142から供給される符号化データの圧縮率を調整し、所定の圧縮率に変換する。これにより受光部111において得られた画像データに対して所定の圧縮率で圧縮された符号化データが得られる。圧縮率は可変とすることもできるが、バス121の最大伝送可能帯域幅はハードウェア要因により固定されるので、圧縮率は固定とするのが望ましい。圧縮率調整部143は、圧縮率を調整した符号化データをダミービット挿入部144に出力する。
このような構成とすることにより、圧縮部113は、画像データ(RAWデータ)を簡易圧縮することができる。
なお、一般的に画像圧縮などにおいては、2次元の離散コサイン変換が利用される場合もあるが、2次元の離散コサイン変換は、1次元の離散コサイン変換と比べると処理が複雑であり、回路規模が増大する恐れがある。画像データに対して1次元の離散コサイン変換が行われることにより、2次元の離散コサイン変換を行う場合よりも、容易に変換データを得ることができる。つまり、圧縮部113の回路規模の増大を抑制することができる。
ダミービット挿入部144は、禁止コードの発生を抑制しつつ、固定長の簡易圧縮された符号化データを生成するためのダミービットを挿入する。
禁止コードとは、バイナリコードにおいて、例えば、符号化データに含まれる所定数より多く0が連続するコードや、所定数よりも多く1が連続するコードである。したがって、禁止コードを含まない符号化データにおいて、0または1の符号は、所定数より少ない数でしか連続に配置されない。
ダミービット挿入部144は、このような禁止コードが発生しないように、符号化データに対して、ダミービットを挿入して、インタフェース処理部114に出力する。
より具体的には、例えば、図3の左部で示されるような1画素あたり10ビットのデータからなる8画素分の合計80ビットの画像データが存在するものとする。画像データは、禁止コードが発生しないことが予め保証されている。
図3の左部の場合、禁止コードとは、例えば、サイクル1で示されるMSB(Most Significant Bit)乃至LSB(Least Significant Bit)が全て1、または、0といったコードである。ただし、当然のことながら禁止コードの定義は様々であり、必ずしも全てが、1または0といったコードでなくても禁止コードとされるようにしてもよく、例えば、1または0が連続して所定数以上続くコードとして、たとえば、連続して8個以上続くコードや、連続して9個続くコードを禁止コードとして定義するようにしてもよい。
尚、図3においては、8画素のデータが図中の水平方向に、サイクル1乃至8として、1画素に対して1サイクルの画像データとして表現されており、それぞれの画素の画素データが、図中の垂直方向にLSB乃至MSBの10ビットにより表現されている。尚、各値は「x」とされており、0または1のいずれかの値である。
図3の左部の画像データを50%に圧縮し、例えば、図3の中央部で示されるように、40ビットの符号化データが生成されるものとする。この場合、圧縮により、いずれかのサイクルのLSB乃至MSBの10ビットの符号かコードが禁止コードとならない保証はされない。このため、符号化データには、禁止コードが発生する可能性がある。
そこで、ダミービット挿入部144は、図3の右部で示されるように、図3の中央部で示される符号化データにおけるビット0の符号の反転値からなるダミービットをLSBに挿入する。図3において、いずれも「y」からなる値で表現されている。すなわち、図3において、LSBのビットの値「y」は、ビット1の「x」で表現される符号の反転符号である。
結果として、図3の右部の符号化データにおいては、いずれのサイクルにおいても、全てのビットが0または1になることが防止されることになるので、11ビット全てが1または0になる禁止コードが発生しないことが保証される。尚、ダミービットが挿入されるビット位置は、禁止コードが発生しないことが保証される限り、LSBに限らず、その他のビット位置でもよく、例えば、MSBでもよい。
<伸張部>
図4は、伸張部133の主な構成例を示すブロック図である。伸張部133は、図2の例の圧縮部113に対応する方法で符号化データを伸張する。図4に示されるように、この場合の伸張部133は、ダミービット除去部151、圧縮率逆調整部152、ゴロム復号部153、および逆DPCM処理部154を有する。
ダミービット除去部151は、入力部131から供給された符号化データに挿入されているダミービットを除去して、圧縮率逆調整部152に供給する。
圧縮率逆調整部152は、ダミービット除去部151から供給されたダミービットが除去された符号化データに対して、圧縮率調整部143の処理の逆処理を行い、ゴロム符号化部142が生成したゴロム符号を復元する。圧縮率逆調整部152は、復元したゴロム符号をゴロム復号部153に供給する。
ゴロム復号部153は、圧縮率逆調整部152から供給されたゴロム符号を、ゴロム符号化部142の符号化方法に対応する方法で復号し、DPCM処理部141が生成した差分値(残差)を復元する。ゴロム復号部153は、復元した差分値(残差)を逆DPCM処理部154に供給する。
逆DPCM処理部154は、ゴロム復号部153から供給された差分値(残差)に対して逆DPCM処理(DPCM処理部141が行ったDPCMの逆処理)を行い、各画素データを復元する。逆DPCM処理部154は、復元した画素データの集合を画像データとして伸張部133の外部に出力する。
このような構成とすることにより、伸張部133は、圧縮部113により生成された符号化データを正しく復号することができる。つまり、伸張部133は、画像データ(RAWデータ)の簡易圧縮を実現することができる。
<撮像処理>
次に、図5のフローチャートを参照して、図1の撮像素子100により実行される撮像処理を説明する。
この撮像処理は、撮像素子100が、被写体を撮像し、その被写体の画像の画像データを得る際に実行される。
撮像処理が開始されると、ステップS101において、受光部111は、有効画素領域の各単位画素において、入射光を光電変換する。
ステップS102において、A/D変換部112は、ステップS101の処理により得られた各単位画素の画素信号(アナログデータ)を、それぞれ、A/D変換する。
ステップS103において、圧縮部113は、圧縮処理を実行し、ステップS102の処理により得られた、デジタルデータの画素データの集合である画像データを圧縮することにより、符号化データを生成する。尚、圧縮処理については、図6を参照して詳細を後述する。
ステップS104において、インタフェース処理部114は、符号化データをインタフェース処理し、送信に適した形式に変換して、出力部115に出力する。
ステップS105において、出力部115は、ステップS104の処理により得られたインタフェース処理された符号化データを、撮像素子100の外部(バス121)に出力する。
ステップS105の処理が終了すると、撮像処理が終了する。
<圧縮処理>
次に、図6のフローチャートを参照して、図5のステップS103において実行される圧縮処理について説明する。
圧縮処理が開始されると、図2のDPCM処理部141は、ステップS121において、画像データに対して、処理順が連続する画素データ同士の差分値を求めるDPCM処理を行う。
ステップS122において、ゴロム符号化部142は、ゴロム符号化処理を実行することにより、ステップS121の処理により得られた各差分値(残差)を用いてゴロム符号化する。
<ゴロム符号化処理>
ここで、図7のフローチャートを参照して、ゴロム符号化処理について説明する。
ステップS131において、ゴロム符号化部142は、DPCM処理により求められた画素毎の差分値(残差)のデータに対して、画素を識別する識別子iを1に初期化する。
ステップS132において、ゴロム符号化部142は、DPCM処理により求められた処理対象となる画素iの画素の差分値(残差)を読み出す。
ステップS133において、ゴロム符号化部142は、差分値(残差)に対応してゴロム符号化する。
より具体的には、例えば、図8で示されるように、差分値(残差)が0ある場合、ゴロム符号化部142は、ゴロム符号(VLC)を、語長が1の「1」に符号化する。
また、差分値(残差)が1である場合、ゴロム符号化部142は、ゴロム符号(VLC)を、語長が3の「010」に符号化する。以下同様に、ゴロム符号化部142は、差分値(残差)が2である場合、ゴロム符号(VLC)を、語長が5の「00100」に、差分値(残差)が3である場合、ゴロム符号(VLC)を、語長が5の「00110」に、差分値(残差)が4である場合、ゴロム符号(VLC)を、語長が7の「0001000」に、差分値(残差)が5である場合、ゴロム符号(VLC)を、語長が7の「0001010」に、差分値(残差)が6である場合、ゴロム符号(VLC)を、語長が7の「0001100」に、差分値(残差)が7である場合、ゴロム符号(VLC)を、語長が7の「0001110」に、それぞれ符号化する。
また、ゴロム符号化部142は、差分値(残差)が−1である場合、ゴロム符号(VLC)を、語長が3の「011」に、差分値(残差)が−2である場合、ゴロム符号(VLC)を、語長が5の「00101」に、差分値(残差)が−3である場合、ゴロム符号(VLC)を、語長が5の「00111」に、差分値(残差)が−4である場合、ゴロム符号(VLC)を、語長が7の「0001001」に、差分値(残差)が−5である場合、ゴロム符号(VLC)を、語長が7の「0001011」に、差分値(残差)が−6である場合、ゴロム符号(VLC)を、語長が7の「0001101」に、差分値(残差)が−7である場合、ゴロム符号(VLC)を、語長が7の「0001111」に、それぞれ符号化する。尚、図8においては、差分値(残差)が8より大きい符号化データ、および−8より小さい符号化データは省略されている。
ステップS134において、ゴロム符号化部142は、識別子iは、画素数Nであるか否かを判定し、画素数Nではない場合、処理は、ステップS135に進む。
ステップS135において、ゴロム符号化部142は、識別子iを1インクリメントして、処理は、ステップS132に戻る。すなわち、全画素について、差分値(残差)に対応するゴロム符号に変換するまで、ステップS132乃至S135の処理が繰り返される。
そして、ステップS134において、識別子iが画素数Nであると判定された場合、処理は、終了する。
以上の処理により、差分値(残差)に応じたゴロム符号化が全画素に対してなされる。
ここで、図6のフローチャートの説明に戻る。
ステップS123において、圧縮率調整部143は、ステップS122の処理により得られたゴロム符号に対して、例えばデータを付加する等して、符号化データの圧縮率を調整する。
ステップS123の処理により、圧縮部113に入力された画像データに対して所定の圧縮率の符号化データが得られると、処理は、ステップS124に進む。
ステップS124において、ダミービット挿入部144は、符号化データに対してダミービットを挿入する。すなわち、ダミービット挿入部144は、符号化データのLSBの反転符号をダミービットとして生成し、新たなLSBとして挿入する。この処理により、符号化データにおいて禁止コードの発生が抑制される。以上の処理により、圧縮処理は終了し、処理は、図5に戻る。
以上のように各処理を実行することにより、撮像素子100は、コストを増大させずに、より大容量のデータをより高速に固定長圧縮することができ、撮像性能を向上させることができる。
また、ダミービットが付与されることにより、禁止コードの発生を抑制することが可能となる。
<画像処理>
次に、図9のフローチャートを参照して、図1の画像処理装置130により実行される画像処理について説明する。
この画像処理は、画像処理装置130が、撮像素子100から出力される符号化データを処理する際に実行される。
画像処理が開始されると、画像処理装置130の入力部131は、ステップS141において、撮像素子100より出力され、バス121を介して伝送される符号化データを受け取る。
ステップS142において、インタフェース処理部132は、インタフェース処理を実行して、ステップS141の処理により受け取られた符号化データをI/OセルやI/Oピン等に応じた形式に変換された元の形式に戻して伸張部133に供給する。
ステップS143において、伸張部133は、伸張処理を実行して、ステップS141の処理により受け取られた符号化データを伸張して、画像データを生成する。
ステップS144において、画像処理装置130は、ステップS143の処理により得られた画像データを画像処理する。ステップS144の処理が終了すると、画像処理が終了する。
<伸張処理>
次に、図7のフローチャートを参照して、図6のステップS142において実行される伸張処理について説明する。
伸張処理が開始されると、ステップS161において、ダミービット除去部151は、符号化データのLSBに挿入されているダミービットを除去し、ダミービットを除去した符号化データを圧縮率逆調整部152に供給する。
ステップS162において、圧縮率逆調整部152は、符号化データの圧縮率の逆調整(すなわち、図6のステップS123の処理の逆処理)を行うことにより、圧縮率を調整する前のゴロム符号を復元する。
ステップS163において、ゴロム復号部153は、ステップS162の処理により得られた各ゴロム符号を復号し、画素データ同士の差分値(残差)を復元する。
ステップS164において、逆DPCM処理部154は、ステップS163の処理により得られた差分値(残差)を用いてDPCM逆処理(すなわち、図6のステップS121の処理の逆処理)を行う。つまり、逆DPCM処理部154は、差分値同士を加算する等して、各単位画素の画素データを復元する。
ステップS164の処理により画像データが得られると、伸張処理が終了し、処理は、図9に戻る。
以上のように各処理を実行することにより、画像処理装置130は、撮像素子100から出力される符号化データを適切に復号することができる。つまり、画像処理装置130は、コストを増大させずに、撮像素子100の撮像性能を向上させることができる。
また、復号にあたって、符号化コードに対して、ダミービットが付与されることにより、禁止コードが発生しないことが保証されているので、適切に復号処理を実現することが可能となる。
結果として、禁止コードの発生を抑制しつつ、画像データを固定長圧縮することが可能となる。
尚、以上においては、ダミービット挿入部144が、圧縮部113に設けられ、ダミービット除去部151が、伸張部133に設けられる構成について説明してきたが、ダミービット挿入部144は、圧縮部113に代えて、インタフェース処理部114に設けられるようにしてもよいし、ダミービット除去部151は、伸張部133に代えて、インタフェース処理部132に設けられる構成にしてもよい。
ダミービット挿入部144およびダミービット除去部151が、それぞれインタフェース処理部114,132に設けられる構成とすることで、圧縮部113、および伸張部133を従来の構成のまま使用することが可能となる。
<2.第2の実施の形態>
以上においては、符号化データにダミービットを挿入して、禁止コードの発生を抑制しつつ、固定長圧縮する例について説明してきたが、禁止コードの発生を抑制するために、ダミービットが必須となるため、圧縮率が低下してしまう。そこで、圧縮アルゴリズムそのもので禁止コードの発生を抑制するようにしてもよい。
<圧縮アルゴリズムにより禁止コードの発生を抑制した圧縮部の構成例>
次に、図11のブロック図を参照して、圧縮アルゴリズムにより禁止コードの発生を抑制した圧縮部113の構成例について説明する。尚、撮像素子100、および画像処理装置130の構成についは、図1を参照して説明した構成と同様であるので、その説明は省略する。また、図11において、図2の圧縮部113における構成と同一の機能を備えた構成については、同一の名称、および同一の符号を付しており、その説明は適宜省略する。
すなわち、図11の圧縮部113において、図2の圧縮部113と異なる点は、ゴロム符号化部142に代えて、反転ゴロム符号化部171を備え、ダミービット挿入部144を削除した点である。
反転ゴロム符号化部171は、DPCM処理部141から供給される各差分値(残差)をゴロム符号(Golomb Coding)に符号化するにあたって、直前のゴロム符号化のLSBの値に応じて、ゴロム符号化結果の0または1を反転させて符号化する。
すなわち、例えば、ゴロム符号化部142により画像データを符号化データに変換する際、例えば、差分値(残差)が、0である状態が継続すると、符号化データは、「1」が連続することになり、所定数以上続くと禁止コードになる恐れがある。また、例えば、差分値(残差)が32である状態が継続すると、「0000001000000」、「0000001000000」、・・・が繰り返されることにより、「0」が12個連続し、これにより禁止コードとみなされる可能性がある。
したがって、ゴロム符号化においても、禁止コードが発生してしまう恐れがある。
そこで、反転ゴロム符号化部171は、図12の左部で示されるように、差分値(残差)に対して、設定される通常のゴロム符号化による符号化データと、図12の右部で示される、通常の符号化データの0および1を反転させた符号化データとを、直前の符号化データのLSBに応じて切り替えて使用することで、禁止コードの発生を抑制する。
すなわち、反転ゴロム符号化部171は、直前の符号化データのLSBが「1」の場合、図12の左部(図8と同様)で示される通常のゴロム符号化により符号化データを生成する。また、反転ゴロム符号化部171は、直前の符号化データのLSBが「0」の場合、図12の右部で示される通常のゴロム符号化に対して、「0」および「1」が反転された符号化データを生成する。以下、通常のゴロム符号化に対して、「0」および「1」が反転された符号化データを生成する符号化処理を反転ゴロム符号化とも称する。
すなわち、反転ゴロム符号化部171は、直前の符号化データのLSBが「0」の場合、差分値(残差)が1であるとき、符号化データを語長が1の「0」に、差分値(残差)が1のとき、符号化データ(VLC:Variable Length Code)を語長が3の「101」に、差分値(残差)が2であるとき、語長が5の「11011」に、差分値(残差)が3であるとき、符号化データを、語長が5の「11001」に、差分値(残差)が4であるとき、符号化データを、語長が7の「1110111」に、差分値(残差)が5であるとき、符号化データを、語長が7の「1110101」に、差分値(残差)が6である場合、符号化データを、語長が7の「1110011」に、差分値(残差)が7である場合、符号化データを、語長が7の「1110001」に、それぞれ符号化する。
また、反転ゴロム符号化部171は、直前の符号化データのLSBが「0」の場合、差分値(残差)が−1であるとき、符号化データ(VLC)を、語長が3の「100」に、差分値(残差)が−2であるとき、符号化データを、語長が5の「11010」に、差分値(残差)が−3であるとき、符号化データを、語長が5の「11000」に、差分値(残差)が−4であるとき、符号化データを、語長が7の「1110110」に、差分値(残差)が−5であるとき、符号化データを、語長が7の「1110100」に、差分値(残差)が−6であるとき、符号化データを、語長が7の「1110010」に、差分値(残差)が−7であるとき、符号化データを、語長が7の「1110000」に、それぞれ符号化する。
尚、図12においては、差分値(残差)が8より大きい符号化データ、および−8より小さい符号化データは省略されている。また、以降においては、図12の左部で示されるテーブルに基づいた、通常のゴロム符号化を「テーブルAによる符号化」とも称し、図12の右部で示されるテーブルに基づいた、反転ゴロム符号化による符号化データを生成する符号化を「テーブルBによる符号化」とも称する。
さらに、反転ゴロム符号化部171は、直前の符号化データのLSBが「0」または「1」のいずれかの状態で所定回数以上継続した場合、禁止コードの発生を抑制するため、直前まで「テーブルAによる符号化」を行っていたときには、「テーブルBによる符号化」に切り替え、直前まで「テーブルBによる符号化」を行っていたときには、「テーブルAによる符号化」に切り替える。
すなわち、以上の条件をまとめると、反転ゴロム符号化部171は、図13で示されるような規則に従って画像データを符号化データに符号化する。
図13の最上段で示されるように、直前のゴロム符号(画素(i−1)の差分値(残差)によるゴロム符号)のLSBが「0」の場合、図12のテーブルBによる符号化により、画像データが符号化される。ここで、iは、画像データを処理する画素を、処理する順序で識別する識別子である。
また、図13の中段で示されるように、直前のゴロム符号(画素(i−1)の差分値(残差)によるゴロム符号)のLSBが「1」の場合、図12のテーブルAによる符号化により、画像データが符号化される。
さらに、図13の下段で示されるように、直前の所定回数(図13においては、例えば、3回)だけゴロム符号(画素(i−3)、(i−2)、(i−1)の差分値(残差)によるゴロム符号)のLSBが連続して「1」の場合、図12のテーブルBによる符号化により、画像データが符号化され、直前の所定回数(図13においては3回)だけゴロム符号(画素(i−3)、(i−2)、(i−1)の差分値(残差)によるゴロム符号)のLSBが連続して「0」の場合、図12のテーブルAによる符号化により、画像データが符号化される。
このような処理により、禁止コードの発生を抑制しつつ、画像データの固定長圧縮を実現することが可能となる。
<圧縮アルゴリズムにより禁止コードの発生を抑制した伸張部の構成例>
次に、図14のブロック図を参照して、圧縮アルゴリズムにより禁止コードの発生を抑制した伸張部133の構成例について説明する。尚、図14において、図4の伸張部133における構成と同一の機能を備えた構成については、同一の名称、および同一の符号を付しており、その説明は適宜省略する。
すなわち、図14の伸張部133において、図4の伸張部133と異なる点は、ダミービット除去部151を削除し、ゴロム復号部153に代えて、反転ゴロム復号部181を備えた点である。
反転ゴロム復号部181は、圧縮率逆調整部152から供給されたゴロム符号を、反転ゴロム符号化部171の符号化方法に対応する方法で復号し、DPCM処理部141が生成した差分値(残差)を復元する。反転ゴロム復号部181は、復元した差分値(残差)を逆DPCM処理部154に供給する。
<圧縮処理>
次に、図15のフローチャートを参照して、図11の圧縮部113による圧縮処理について説明する。
圧縮処理が開始されると、ステップS181において、DPCM処理部141は、画像データに対して、処理順が連続する画素データ同士の差分値を求めるDPCM処理を行う。
ステップS182において、ゴロム符号化部142は、図12,図13を参照して説明した反転ゴロム符号化処理を実行し、ステップS181の処理により得られた各差分値により画像データを符号化する。尚、反転ゴロム符号化処理については、図16のフローチャートを参照して詳細を後述する。
ステップS183において、圧縮率調整部143は、ステップS182の処理により得られたゴロム符号に対して、例えばデータを付加する等して、符号化データの圧縮率を調整する。
ステップS183の処理により、圧縮部113に入力された画像データに対して所定の圧縮率の符号化データが得られると、圧縮処理が終了する。
以上のように各処理を実行することにより、撮像素子100は、コストを増大させずに、より大容量のデータをより高速に出力することができ、撮像性能を向上させることができる。また、禁止コードの発生を抑制しつつ、画像データを固定長圧縮することが可能となる。
尚、以上においては、直前の画素の符号化データのLSBに基づいて、「テーブルAにより符号化」、または、「テーブルBにより符号化」のいずれかを判定する例について説明してきたが、直前の画素の符号化データのLSB以外の所定ビットでもよく、例えば、MSBでもよい。
<反転ゴロム符号化処理>
次に、図16のフローチャートを参照して、反転ゴロム符号化部171による反転ゴロム符号化処理について説明する。
ステップS201において、反転ゴロム符号化部171は、画素を識別する識別子iのカウンタを1に初期化する。
ステップS202において、反転ゴロム符号化部171は、画素iの画素値に対する差分値(残差)を読み出す。
ステップS203において、反転ゴロム符号化部171は、直前のゴロム符号のLSBが「0」であるか否かを判定し、例えば、「0」であるとみなされた場合、処理は、ステップS204に進む。
ステップS204において、反転ゴロム符号化部171は、テーブルBによる符号化が所定回数(例えば、3回)続いているか否かを判定し、続いていない場合、処理は、ステップS205に進む。
ステップS205において、反転ゴロム符号化部171は、テーブルBによる符号化により、差分値(残差)に対応したゴロム符号を求め、処理は、ステップS206に進む。
ステップS206において、反転ゴロム符号化部171は、識別子を示すカウンタiが画素数Nであるか否か、すなわち、全ての画素が符号化された否かを判定し、カウンタiがNではない場合、処理は、ステップS209に進む。
ステップS209において、反転ゴロム符号化部171は、カウンタiを1インクリメントして、処理は、ステップS202に戻り、それ以降の処理が繰り返される。
一方、ステップS203において、直前のゴロム符号のLSBが「1」であるとみなされた場合、処理は、ステップS207に進む。
ステップS207において、反転ゴロム符号化部171は、テーブルAによる符号化が所定回数(例えば、3回)続いているか否かを判定し、続いていない場合、処理は、ステップS208に進む。
ステップS208において、反転ゴロム符号化部171は、テーブルAによる符号化により、差分値(残差)に対応したゴロム符号を求め、処理は、ステップS206に進む。
ステップS204において、テーブルBによる符号化が所定回数(例えば、3回)続いている場合、処理は、ステップS208に進む。
また、ステップS207において、テーブルAによる符号化が所定回数(例えば、3回)続いている場合、処理は、ステップS205に進む。
以上の処理により、直前のゴロム符号のLSBに応じて、テーブルAによる符号化、およびテーブルBによる符号化が切り替えられ、さらに、符号化データのうちLSBにおいて連続して同一の符号化が継続されたときには、符号化アルゴリズムが切り替えられて画像データが符号化される。
結果として、禁止コードの発生を抑制しつつ、固定長圧縮を実現することが可能となる。
<図14の伸張部による伸張処理>
次に、図17のフローチャートを参照して、図14の伸張部133による伸張処理について説明する。
伸張処理が開始されると、ステップS221において、圧縮率逆調整部152は、符号化データの圧縮率の逆調整(すなわち、図15のステップS183の処理の逆処理)を行うことにより、圧縮率を調整する前のゴロム符号を復元する。
ステップS222において、反転ゴロム復号部181は、反転ゴロム復号処理を実行し、ステップS221の処理により得られた各ゴロム符号を復号し、画素データ同士の差分値(残差)を復元する。すなわち、反転ゴロム復号処理は、図16のフローチャートを参照して、説明した反転ゴロム符号化処理と逆の処理である。
ステップS223において、逆DPCM処理部154は、ステップS222の処理により得られた差分値(残差)を用いてDPCM逆処理(すなわち、図1のステップS181の処理の逆処理)を行う。つまり、逆DPCM処理部154は、差分値同士を加算する等して、各単位画素の画素データを復元する。
ステップS223の処理により画像データが得られると、伸張処理が終了する。
以上のように各処理を実行することにより、画像処理装置130は、撮像素子100から出力される符号化データを適切に復号することができる。つまり、画像処理装置130は、コストを増大させずに、撮像素子100の撮像性能を向上させることができる。
また、反転ゴロム復号処理により、禁止コードの発生を抑制しつつ、固定長圧縮された符号化データを復号して画像データを取得することが可能となる。
<3.電子機器への適用例>
上述した撮像素子100は、例えば、デジタルスチルカメラやデジタルビデオカメラなどの撮像装置、撮像機能を備えた携帯電話機、または、撮像機能を備えた他の機器といった各種の電子機器に適用することができる。
図18は、本技術を適用した電子機器としての撮像装置の構成例を示すブロック図である。
図18に示される撮像装置201は、光学系202、シャッタ装置203、固体撮像素子204、駆動回路205、信号処理回路206、モニタ207、およびメモリ208を備えて構成され、静止画像および動画像を撮像可能である。
光学系202は、1枚または複数枚のレンズを有して構成され、被写体からの光(入射光)を固体撮像素子204に導き、固体撮像素子204の受光面に結像させる。
シャッタ装置203は、光学系202および固体撮像素子204の間に配置され、駆動回路205の制御に従って、固体撮像素子204への光照射期間および遮光期間を制御する。
固体撮像素子204は、上述した固体撮像素子を含むパッケージにより構成される。固体撮像素子204は、光学系202およびシャッタ装置203を介して受光面に結像される光に応じて、一定期間、信号電荷を蓄積する。固体撮像素子204に蓄積された信号電荷は、駆動回路205から供給される駆動信号(タイミング信号)に従って転送される。
駆動回路205は、固体撮像素子204の転送動作、および、シャッタ装置203のシャッタ動作を制御する駆動信号を出力して、固体撮像素子204およびシャッタ装置203を駆動する。
信号処理回路206は、固体撮像素子204から出力された信号電荷に対して各種の信号処理を施す。信号処理回路206が信号処理を施すことにより得られた画像(画像データ)は、モニタ207に供給されて表示されたり、メモリ208に供給されて記憶(記録)されたりする。
このように構成されている撮像装置201においても、上述した固体撮像素子204、および信号処理回路206に代えて、撮像素子100および画像処理装置130を適用することにより、禁止コードの発生を抑制しつつ、画像データを固定長圧縮することが可能となる。
<4.固体撮像装置の使用例>
図19は、上述の撮像素子100を使用する使用例を示す図である。
上述したカメラモジュールは、例えば、以下のように、可視光や、赤外光、紫外光、X線等の光をセンシングする様々なケースに使用することができる。
・ディジタルカメラや、カメラ機能付きの携帯機器等の、鑑賞の用に供される画像を撮影する装置
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される装置
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
尚、本開示は、以下のような構成も取ることができる。
<1> 入射光を受光し、光電変換する受光部と、
前記受光部において得られた画像データを、同一の符号が所定数より多く連続して配置される禁止コードを含まない符号化データに圧縮する圧縮部と
を備える撮像素子。
<2> 前記圧縮部は、前記画像データを圧縮し、ダミービットを付加して、同一の符号が所定数より多く連続して配置される前記禁止コードを含まない符号化データに圧縮する
<1>に記載の撮像素子。
<3> 前記画像データは、前記受光部の各単位画素において得られた画素データの集合であり、
前記圧縮部は、前記画素データ同士の差分値をゴロム符号化し、前記ダミービットを付加して、前記画像データを、前記禁止コードを含まない符号化データに圧縮する
<2>に記載の撮像素子。
<4> 前記圧縮部は、固定の圧縮率で前記画像データを圧縮し、前記ダミービットを付加して、前記禁止コードを含まない符号化データに圧縮する
<2>に記載の撮像素子。
<5> 前記画像データは、前記受光部の各単位画素において得られた画素データの集合であり、
前記圧縮部は、前記画素データのうち、直前に符号化した前記符号化データに基づいて、前記画素データ同士の差分値のゴロム符号化、または、前記画素データ同士の差分値を前記ゴロム符号化に対する反転符号に符号化する反転ゴロム符号化のいずれかにより、前記禁止コードを含まない符号化データに圧縮する
<1>に記載の撮像素子。
<6> 前記圧縮部は、前記画素データのうち、直前に符号化した符号化データの所定ビットの値に基づいて、前記ゴロム符号化、または、前記反転ゴロム符号化のいずれかにより、前記画素データ同士の差分値を、前記禁止コードを含まない符号化データに圧縮する
<5>に記載の撮像素子。
<7> 前記所定ビットは、LSB(Least Significant Bit)、またはMSB(Most Significant Bit)である
<6>に記載の撮像素子。
<8> 前記圧縮部は、前記直前に符号化した画素データ同士の差分値の符号化データの所定ビットが所定回数連続して同一値である場合、直前の画素データ同士の差分値を前記ゴロム符号化したときは、前記反転ゴロム符号化し、直前の画素データ同士の差分値を前記反転ゴロム符号化したときは、前記ゴロム符号化することで、前記禁止コードを含まない符号化データに圧縮する
<5>に記載の撮像素子。
<9> 前記禁止コードは、前記符号化データに含まれる、1または0が所定数よりも多く連続するコードである
<1>乃至<8>のいずれかに記載の撮像素子。
<10> 入射光を受光し、光電変換する受光部において得られた画像データを、同一の符号が所定数より多く連続して配置される禁止コードを含まない符号化データに圧縮する
ステップを含む撮像素子の撮像方法。
<11> 入射光を受光し、光電変換する受光部と、
前記受光部において得られた画像データを、同一の符号が所定数より多く連続して配置される禁止コードを含まない符号化データに圧縮する圧縮部と
を備える撮像素子と、
前記撮像素子より出力される、前記圧縮部により前記画像データが圧縮されて得られる前記符号化データを伸張する伸張部と
を備える撮像装置。
<12> 前記圧縮部は、前記画像データを圧縮し、ダミービットを付加して、同一の符号が所定数より多く連続して配置される前記禁止コードを含まない符号化データに圧縮する
<11>に記載の撮像装置。
<13> 前記画像データは、前記受光部の各単位画素において得られた画素データの集合であり、
前記圧縮部は、前記画素データ同士の差分値をゴロム符号化し、前記ダミービットを付加して、前記画像データを、前記禁止コードを含まない符号化データに圧縮する
<12>に記載の撮像装置。
<14> 前記圧縮部は、固定の圧縮率で前記画像データを圧縮し、前記ダミービットを付加して、前記禁止コードを含まない符号化データに圧縮する
<12>に記載の撮像装置。
<15> 前記画像データは、前記受光部の各単位画素において得られた画素データの集合であり、
前記圧縮部は、前記画素データのうち、直前に符号化した画素データに基づいて、前記画素データ同士の差分値のゴロム符号化、または、前記画素データ同士の差分値を前記ゴロム符号化に対する反転符号に符号化する反転ゴロム符号化のいずれかにより、前記禁止コードを含まない符号化データに圧縮する
<11>に記載の撮像装置。
<16> 前記圧縮部は、前記画素データのうち、直前に符号化した画素データの所定ビットの値に基づいて、前記ゴロム符号化、または、前記反転ゴロム符号化のいずれかにより、前記画素データ同士の差分値を、前記禁止コードを含まない符号化データに圧縮する
<15>に記載の撮像装置。
<17> 前記所定ビットは、LSB(Least Significant Bit)、またはMSB(Most Significant Bit)である
<16>に記載の撮像装置。
<18> 前記圧縮部は、前記直前に符号化した画素データ同士の差分値の符号化データの所定ビットが所定回数連続して同一値である場合、直前の画素データ同士の差分値を前記ゴロム符号化したときは、前記反転ゴロム符号化し、直前の画素データ同士の差分値を前記反転ゴロム符号化したときは、前記ゴロム符号化することで、前記禁止コードを含まない符号化データに圧縮する
<15>に記載の撮像装置。
<19> 前記禁止コードは、前記符号化データに含まれる、1または0が所定数よりも多く連続するコードである
<11>乃至<18>のいずれかに記載の撮像装置。
<20> 入射光を受光し、光電変換する受光部と、
前記受光部において得られた画像データを、同一の符号が所定数より多く連続して配置される禁止コードを含まない符号化データに圧縮する圧縮部と
を備える撮像素子より出力される、前記圧縮部により前記画像データが圧縮されて得られる前記符号化データを伸張する
ステップを含む撮像装置の撮像方法。
100 撮像素子, 101および102 半導体基板, 111 受光部, 112 A/D変換部, 113 圧縮部, 114 インタフェース処理部, 115 出力部, 121 バス, 130 画像処理装置, 131 入力部, 132 インタフェース処理部, 133 伸張部, 141 DPCM処理部, 142 ゴロム符号化部, 143 圧縮率調整部, 144 ダミービット挿入部, 151 ダミービット除去部, 152 圧縮率逆調整部, 153 ゴロム符号化部, 154 逆DPCM処理部, 171 反転ゴロム符号化部, 181 反転ゴロム復号部

Claims (20)

  1. 入射光を受光し、光電変換する受光部と、
    前記受光部において得られた画像データを、同一の符号が所定数より多く連続して配置される禁止コードを含まない符号化データに圧縮する圧縮部と
    を備える撮像素子。
  2. 前記圧縮部は、前記画像データを圧縮し、ダミービットを付加して、同一の符号が所定数より多く連続して配置される前記禁止コードを含まない符号化データに圧縮する
    請求項1に記載の撮像素子。
  3. 前記画像データは、前記受光部の各単位画素において得られた画素データの集合であり、
    前記圧縮部は、前記画素データ同士の差分値をゴロム符号化し、前記ダミービットを付加して、前記画像データを、前記禁止コードを含まない符号化データに圧縮する
    請求項2に記載の撮像素子。
  4. 前記圧縮部は、固定の圧縮率で前記画像データを圧縮し、前記ダミービットを付加して、前記禁止コードを含まない符号化データに圧縮する
    請求項2に記載の撮像素子。
  5. 前記画像データは、前記受光部の各単位画素において得られた画素データの集合であり、
    前記圧縮部は、前記画素データのうち、直前に符号化した前記符号化データに基づいて、前記画素データ同士の差分値のゴロム符号化、または、前記画素データ同士の差分値を前記ゴロム符号化に対する反転符号に符号化する反転ゴロム符号化のいずれかにより、前記禁止コードを含まない符号化データに圧縮する
    請求項1に記載の撮像素子。
  6. 前記圧縮部は、前記画素データのうち、直前に符号化した符号化データの所定ビットの値に基づいて、前記ゴロム符号化、または、前記反転ゴロム符号化のいずれかにより、前記画素データ同士の差分値を、前記禁止コードを含まない符号化データに圧縮する
    請求項5に記載の撮像素子。
  7. 前記所定ビットは、LSB(Least Significant Bit)、またはMSB(Most Significant Bit)である
    請求項6に記載の撮像素子。
  8. 前記圧縮部は、前記直前に符号化した画素データ同士の差分値の符号化データの所定ビットが所定回数連続して同一値である場合、直前の画素データ同士の差分値を前記ゴロム符号化したときは、前記反転ゴロム符号化し、直前の画素データ同士の差分値を前記反転ゴロム符号化したときは、前記ゴロム符号化することで、前記禁止コードを含まない符号化データに圧縮する
    請求項5に記載の撮像素子。
  9. 前記禁止コードは、前記符号化データに含まれる、1または0が所定数よりも多く連続するコードである
    請求項1に記載の撮像素子。
  10. 入射光を受光し、光電変換する受光部において得られた画像データを、同一の符号が所定数より多く連続して配置される禁止コードを含まない符号化データに圧縮する
    ステップを含む撮像素子の撮像方法。
  11. 入射光を受光し、光電変換する受光部と、
    前記受光部において得られた画像データを、同一の符号が所定数より多く連続して配置される禁止コードを含まない符号化データに圧縮する圧縮部と
    を備える撮像素子と、
    前記撮像素子より出力される、前記圧縮部により前記画像データが圧縮されて得られる前記符号化データを伸張する伸張部と
    を備える撮像装置。
  12. 前記圧縮部は、前記画像データを圧縮し、ダミービットを付加して、同一の符号が所定数より多く連続して配置される前記禁止コードを含まない符号化データに圧縮する
    請求項11に記載の撮像装置。
  13. 前記画像データは、前記受光部の各単位画素において得られた画素データの集合であり、
    前記圧縮部は、前記画素データ同士の差分値をゴロム符号化し、前記ダミービットを付加して、前記画像データを、前記禁止コードを含まない符号化データに圧縮する
    請求項12に記載の撮像装置。
  14. 前記圧縮部は、固定の圧縮率で前記画像データを圧縮し、前記ダミービットを付加して、前記禁止コードを含まない符号化データに圧縮する
    請求項12に記載の撮像装置。
  15. 前記画像データは、前記受光部の各単位画素において得られた画素データの集合であり、
    前記圧縮部は、前記画素データのうち、直前に符号化した画素データに基づいて、前記画素データ同士の差分値のゴロム符号化、または、前記画素データ同士の差分値を前記ゴロム符号化に対する反転符号に符号化する反転ゴロム符号化のいずれかにより、前記禁止コードを含まない符号化データに圧縮する
    請求項11に記載の撮像装置。
  16. 前記圧縮部は、前記画素データのうち、直前に符号化した画素データの所定ビットの値に基づいて、前記ゴロム符号化、または、前記反転ゴロム符号化のいずれかにより、前記画素データ同士の差分値を、前記禁止コードを含まない符号化データに圧縮する
    請求項15に記載の撮像装置。
  17. 前記所定ビットは、LSB(Least Significant Bit)、またはMSB(Most Significant Bit)である
    請求項16に記載の撮像装置。
  18. 前記圧縮部は、前記直前に符号化した画素データ同士の差分値の符号化データの所定ビットが所定回数連続して同一値である場合、直前の画素データ同士の差分値を前記ゴロム符号化したときは、前記反転ゴロム符号化し、直前の画素データ同士の差分値を前記反転ゴロム符号化したときは、前記ゴロム符号化することで、前記禁止コードを含まない符号化データに圧縮する
    請求項15に記載の撮像装置。
  19. 前記禁止コードは、前記符号化データに含まれる、1または0が所定数よりも多く連続するコードである
    請求項11に記載の撮像装置。
  20. 入射光を受光し、光電変換する受光部と、
    前記受光部において得られた画像データを、同一の符号が所定数より多く連続して配置される禁止コードを含まない符号化データに圧縮する圧縮部と
    を備える撮像素子より出力される、前記圧縮部により前記画像データが圧縮されて得られる前記符号化データを伸張する
    ステップを含む撮像装置の撮像方法。
JP2019509230A 2017-03-27 2018-03-14 撮像素子、並びに、撮像装置および方法 Active JP7176511B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017060412 2017-03-27
JP2017060412 2017-03-27
PCT/JP2018/010080 WO2018180510A1 (ja) 2017-03-27 2018-03-14 撮像素子、並びに、撮像装置および方法

Publications (2)

Publication Number Publication Date
JPWO2018180510A1 true JPWO2018180510A1 (ja) 2020-02-06
JP7176511B2 JP7176511B2 (ja) 2022-11-22

Family

ID=63675565

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019509230A Active JP7176511B2 (ja) 2017-03-27 2018-03-14 撮像素子、並びに、撮像装置および方法

Country Status (4)

Country Link
US (1) US20190394495A1 (ja)
JP (1) JP7176511B2 (ja)
CN (1) CN110447222B (ja)
WO (1) WO2018180510A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7431549B2 (ja) * 2019-10-01 2024-02-15 キヤノン株式会社 符号化装置、撮像装置、制御方法、及びプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007020036A (ja) * 2005-07-11 2007-01-25 Toshiba Corp 画像送信装置および画像受信装置
JP2008011133A (ja) * 2006-06-29 2008-01-17 Sony Corp 画像処理方法、画像処理方法のプログラム、画像処理方法のプログラムを記録した記録媒体及び画像処理装置
JP2011049901A (ja) * 2009-08-27 2011-03-10 Panasonic Corp 固体撮像装置、撮像装置
JP2014103543A (ja) * 2012-11-20 2014-06-05 Sony Corp 撮像素子、並びに、撮像装置および方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB0002623D0 (en) * 2000-02-05 2000-03-29 Res Councils Improvements in or relating to data compression
US9118345B2 (en) * 2012-10-04 2015-08-25 Altera Corporation Data compression profiler for configuration of compression
CN103152567A (zh) * 2013-02-26 2013-06-12 中国科学院光电技术研究所 一种任意阶数指数哥伦布编码器及其方法
GB2516422A (en) * 2013-07-09 2015-01-28 Sony Corp Data encoding and decoding
US9077924B2 (en) * 2013-08-29 2015-07-07 Sony Corporation CMOS image sensor implementing correlated double sampling with compression
KR20150054554A (ko) * 2013-11-12 2015-05-20 삼성전자주식회사 영상 처리장치 및 방법
CN104717497A (zh) * 2013-12-13 2015-06-17 北京润光泰力科技发展有限公司 基于扫描顺序变更的jpeg_ls规则编码硬件实现方法
CN104902256B (zh) * 2015-05-21 2018-01-09 南京大学 一种基于运动补偿的双目立体图像编解码方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007020036A (ja) * 2005-07-11 2007-01-25 Toshiba Corp 画像送信装置および画像受信装置
JP2008011133A (ja) * 2006-06-29 2008-01-17 Sony Corp 画像処理方法、画像処理方法のプログラム、画像処理方法のプログラムを記録した記録媒体及び画像処理装置
JP2011049901A (ja) * 2009-08-27 2011-03-10 Panasonic Corp 固体撮像装置、撮像装置
JP2014103543A (ja) * 2012-11-20 2014-06-05 Sony Corp 撮像素子、並びに、撮像装置および方法

Also Published As

Publication number Publication date
US20190394495A1 (en) 2019-12-26
WO2018180510A1 (ja) 2018-10-04
CN110447222A (zh) 2019-11-12
CN110447222B (zh) 2021-12-21
JP7176511B2 (ja) 2022-11-22

Similar Documents

Publication Publication Date Title
US8098941B2 (en) Method and apparatus for parallelization of image compression encoders
CN101312532B (zh) 摄像装置、摄像电路以及摄像方法
US8502889B2 (en) Solid-state image capturing device, and image capturing apparatus
US7502523B2 (en) Auto focusing apparatus and method using discrete cosine transform coefficients
US7821548B2 (en) Temporal image buffer for image processor using compressed raw image
US9106250B2 (en) Image coding method and decoding method, image coding apparatus and decoding apparatus, camera, and imaging device
JP2007143118A (ja) 撮像装置
CN102082911A (zh) 图像拍摄装置和图像拍摄方法
US20110200263A1 (en) Image encoder and image decoder
CN102812698B (zh) 摄像装置
JP4561649B2 (ja) 画像圧縮装置、画像圧縮プログラム及び画像圧縮方法、hdr画像生成装置、hdr画像生成プログラム及びhdr画像生成方法、並びに画像処理システム、画像処理プログラム及び画像処理方法
JP7176511B2 (ja) 撮像素子、並びに、撮像装置および方法
US10652540B2 (en) Image processing device, image processing method, and recording medium storing image processing program
US20060061822A1 (en) Method and device for temporarily storing image data
KR100827680B1 (ko) 썸네일 데이터 전송 방법 및 장치
US20200068158A1 (en) Imaging apparatus
JP2006254333A (ja) 符号化装置と符号化方法とデジタルカメラ
JPWO2019142836A1 (ja) 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム
US12052307B2 (en) Image processing device and method for operating image processing device
JP2007329946A (ja) カプセル内視鏡システム
JP2015076624A (ja) 符号化システム、符号化装置、復号化装置、および、符号化および復号化方法
KR20110083376A (ko) 영상 감시 시스템
JPH11298762A (ja) 暗電流ノイズ除去装置
CN102438123A (zh) 摄影机影像分割系统及其使用方法
KR20110083378A (ko) 감시 카메라 및 이를 포함하는 영상 감시 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210202

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220405

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220530

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221011

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221024

R151 Written notification of patent or utility model registration

Ref document number: 7176511

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151