JPWO2014084072A1 - イメージセンサおよびそのデータ伝送方法、情報処理装置および情報処理方法、電子機器、並びにプログラム - Google Patents

イメージセンサおよびそのデータ伝送方法、情報処理装置および情報処理方法、電子機器、並びにプログラム Download PDF

Info

Publication number
JPWO2014084072A1
JPWO2014084072A1 JP2014550130A JP2014550130A JPWO2014084072A1 JP WO2014084072 A1 JPWO2014084072 A1 JP WO2014084072A1 JP 2014550130 A JP2014550130 A JP 2014550130A JP 2014550130 A JP2014550130 A JP 2014550130A JP WO2014084072 A1 JPWO2014084072 A1 JP WO2014084072A1
Authority
JP
Japan
Prior art keywords
data
unit
format
original image
pixel data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014550130A
Other languages
English (en)
Other versions
JP6349259B2 (ja
Inventor
若林 準人
準人 若林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Publication of JPWO2014084072A1 publication Critical patent/JPWO2014084072A1/ja
Application granted granted Critical
Publication of JP6349259B2 publication Critical patent/JP6349259B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/41Bandwidth or redundancy reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00204Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a digital computer or a digital computer system, e.g. an internet server
    • H04N1/00209Transmitting or receiving image data, e.g. facsimile data, via a computer, e.g. using e-mail, a computer network, the internet, I-fax
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/21Intermediate information storage
    • H04N1/2104Intermediate information storage for one or a few pictures
    • H04N1/2112Intermediate information storage for one or a few pictures using still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/115Selection of the code volume for a coding unit prior to coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Studio Devices (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Abstract

本技術は、圧縮の自由度やイメージセンサとDSPとの接続性を容易にすることができるようにするイメージセンサおよびそのデータ伝送方法、情報処理装置および情報処理方法、電子機器、並びにプログラムに関する。4画素の12ビットの元画像データフォーマットのデータPixel4*N乃至Pixel4*N+3が、6ビットの圧縮データに変換され、12ビットの元画像データフォーマットと同一の構成となる12ビットの圧縮データフォーマットに2画素ずつ配置されて、データData2*N,Data2*N+1が構成される。さらに、圧縮データフォーマットData2*N,Data2*N+1の上位8ビットが読み出されて、データByte3*N,Byte3*N+1に配置し、圧縮データフォーマットData2*N,Data2*N+1の下位4ビットずつがデータByte3*N+2に配置される。本技術は、撮像装置に適用することができる。

Description

本技術は、イメージセンサおよびそのデータ伝送方法、情報処理装置および情報処理方法、電子機器、並びにプログラムに関し、特に、既存のデータ伝送のインタフェースに手を加えること無く、規定フォーマットでの画像データの伝送を可能とし、圧縮方式や画像処理LSI(Large Scale Integration)との接続について、自由度を向上できるようにしたイメージセンサおよびそのデータ伝送方法、情報処理装置および情報処理方法、電子機器、並びにプログラムに関する。
デジタルカメラなどに代表される機器においては、イメージセンサにより撮像された画像が、圧縮データに変換されて、DSP(Digital Signal Processor)などを構成する画像処理LSIにインタフェースを介して供給され、様々な処理がなされて出力される。
ところで、イメージセンサと画像処理LSIとのインタフェース間で伝送される圧縮データ方式としては、例えばDPCM(Differential Pulse Code Modulation)/PCM(Pulse Code Modulation)を組み合わせた方式などが採用されている。これらの一例として、携帯電話向けのチップ間インタフェースに関し、圧縮データについての規格として、SMIA(Standard Mobile Imaging Architecture)規格が設けられている(非特許文献1参照)。
また、Nビット信号をnビット信号に圧縮し、分解、連結してNビットとして出力する方式が提案されている(特許文献1参照)。これは、nビットに低下したデータレートをNビットのデータレートに調整することで画素データ出力期間を短縮することを目的としたものである。すなわち、例えば、12bitの画素データを8bitに圧縮し、次画素を4bitに分解して12bitのデータとして伝送している。
SMIA 1.0 Part 1:Functional specification
特開2011−049901号公報
しかしながら、SMIA規格においては、圧縮後のデータについては、1画素のRAWデータとして扱う必要があり、多種多様な圧縮データを取扱うには新たにRAW規格を策定する必要がある。
そのため圧縮率の変更にはLINK層でのフォーマットコンバータ回路の変更が必要になりパッキング回路の修正が伴う。
また、特許文献1の技術においては、画素データのビット数が圧縮前、データ伝送時で同じことを前提としているため、例えば、12bitの画素データを5bitに変換するといった圧縮率に設定することが難しく、圧縮率を自由に設定することができない。さらに、高速伝送に対応したクロックデータリカバリ方式に対応した8B10B伝送などへの適用方法も不明である。
本技術は、このような状況に鑑みてなされたものであり、特に、複数の画素データを様々な画素数の圧縮フォーマットに変換した後、規定の伝送フォーマットに変換して伝送することにより、既存のインタフェースを利用しつつ、様々な圧縮率を設定できるようにするものである。
本技術の第1の側面のイメージセンサは、元画像を撮像する撮像部と、前記元画像の複数の画素データを、圧縮フォーマットに圧縮する圧縮部と、前記元画像の複数の画素データの圧縮フォーマットを、複数の画素データの伝送フォーマットに変換する変換部とを含む。
前記伝送フォーマットのビット長は、前記圧縮フォーマットのビット長と異なるようにしてもよい。
前記伝送フォーマットのビット長は、前記圧縮フォーマットのビット長と同一にするようにしてもよい。
前記圧縮部には、前記元画像の複数の画素データ単位で前記圧縮フォーマットに圧縮させ、前記変換部には、前記元画像の複数の画素データ単位で圧縮された前記圧縮フォーマットを、前記複数の伝送フォーマットに変換させるようにしてもよい。
前記変換部には、前記元画像の複数の画素データ単位で圧縮された前記圧縮フォーマットを、前記複数の伝送フォーマットに変換する際、ブロックサイズに合わせるため、前記複数の画素データ単位で処理する画素データに仮想データを配置させるようにしてもよい。
前記元画像の画質に応じて圧縮率を設定する設定部をさらに含ませるようにしてもよく、前記圧縮部には、前記設定部により設定される圧縮率で、前記元画像の複数の画素データを、圧縮フォーマットに圧縮させるようにしてもよい。
本技術の第1の側面のイメージセンサのデータ伝送方法は、元画像を撮像し、前記元画像の複数の画素データを、圧縮フォーマットに圧縮し、前記元画像の複数の画素データの圧縮フォーマットを、複数の画素データの伝送フォーマットに変換するステップを含む。
本技術の第1の側面のプログラムは、元画像を撮像する撮像ステップと、前記元画像の複数の画素データを、圧縮フォーマットに圧縮する圧縮ステップと、前記元画像の複数の画素データの圧縮フォーマットを、複数の画素データの伝送フォーマットに変換する変換ステップとを含む処理をコンピュータに実行させる。
本技術の第2の側面の情報処理装置は、前記元画像の複数の画素データが、圧縮フォーマットに圧縮され、前記元画像の複数の画素データの圧縮フォーマットが変換された、前記複数の画素データの伝送フォーマットを、前記複数の画素データの圧縮フォーマットに復元する復元部と、前記復元部により復元された圧縮フォーマットを前記元画像の複数の画素データに伸張する伸張部とを含む。
前記伝送フォーマットのビット長は、前記圧縮フォーマットのビット長と異なるようにしてもよい。
前記伝送フォーマットのビット長は、前記圧縮フォーマットのビット長と同一であるようにしてもよい。
前記復元部には、前記複数の伝送フォーマットを、前記元画像の複数の画素データ単位で前記圧縮フォーマットに復元させ、前記伸張部には、前記元画像の複数の画素データ単位で圧縮された前記圧縮フォーマットを、前記複数の画素データに伸張させるようにしてもよい。
前記元画像の画質に応じて圧縮率を設定する設定部をさらに含ませるようにしてもよく、前記伸張部には、前記設定部により設定される圧縮率に基づいて、前記圧縮フォーマットを、前記元画像の複数の画素データに伸張させるようにしてもよい。
本技術の第2の側面の情報処理方法は、前記元画像の複数の画素データが、圧縮フォーマットに圧縮され、前記元画像の複数の画素データの圧縮フォーマットが変換された、前記複数の画素データの伝送フォーマットを、前記複数の画素データの圧縮フォーマットに復元し、復元された圧縮フォーマットを前記元画像の複数の画素データに伸張するステップを含む。
本技術の第2の側面のプログラムは、前記元画像の複数の画素データが、圧縮フォーマットに圧縮され、前記元画像の複数の画素データの圧縮フォーマットが変換された、前記複数の画素データの伝送フォーマットを、前記複数の画素データの圧縮フォーマットに復元する復元ステップと、前記復元ステップの処理により復元された圧縮フォーマットを前記元画像の複数の画素データに伸張する伸張ステップとを含む処理をコンピュータに実行させる。
本技術の第3の側面の電子機器は、元画像を撮像する撮像部と、前記元画像の複数の画素データを、圧縮フォーマットに圧縮する圧縮部と、前記元画像の複数の画素データの圧縮フォーマットを、複数の画素データの伝送フォーマットに変換する変換部とを含む。
本技術の第4の側面の電子機器は、前記元画像の複数の画素データが、圧縮フォーマットに圧縮され、前記元画像の複数の画素データの圧縮フォーマットが変換された、前記複数の画素データの伝送フォーマットを、前記複数の画素データの圧縮フォーマットに復元する復元部と、前記復元部により復元された圧縮フォーマットを前記元画像の複数の画素データに伸張する伸張部とを含む。
本技術の第1,3の側面においては、元画像が撮像され、前記元画像の複数の画素データが、圧縮フォーマットに圧縮され、前記元画像の複数の画素データの圧縮フォーマットが、複数の画素データの伝送フォーマットに変換される。
本技術の第2,4の側面においては、前記元画像の複数の画素データが、圧縮フォーマットに圧縮され、前記元画像の複数の画素データの圧縮フォーマットが変換された、前記複数の画素データの伝送フォーマットが、前記複数の画素データの圧縮フォーマットに復元され、復元された圧縮フォーマットが前記元画像の複数の画素データに伸張される。
本技術の第1乃至第4の側面のイメージセンサ、および電子機器は、独立した装置または電子機器であっても良いし、各処理を行うブロックであっても良い。
本技術の第1乃至第4の側面によれば、既存のデータ伝送のインタフェースに手を加えること無く、規定フォーマットでの画像データの伝送が可能となり、圧縮率や様々なタイプの画像処理LSIとの接続について、自由度を向上させることが可能となる。
伝送システムの第1の構成例を示す図である。 伝送システムの第2の構成例を示す図である。 伝送システムの第3の構成例を示す図である。 フレームフォーマットの例を示す図である。 送信部と受信部の構成例を示す図である。 ヘッダ構造を示す図である。 ヘッダ情報の内容と情報量を示す図である。 ビット配列の例を示す図である。 撮像装置の処理について説明するフローチャートである。 図9のステップS2において行われるデータ送信処理について説明するフローチャートである。 12ビットの元画像データフォーマットを6ビットの圧縮データフォーマットに変換してデータ送信処理、およびデータ受信処理をする例を説明する図である。 図9のステップS3において行われるデータ受信処理について説明するフローチャートである。 12ビットの元画像データフォーマットを5ビットの圧縮データフォーマットに変換してデータ送信処理、およびデータ受信処理をする例を説明する図である。 12ビットの元画像データフォーマットを4ビットの圧縮データフォーマットに変換してデータ送信処理、およびデータ受信処理をする第1の例を説明する図である。 12ビットの元画像データフォーマットを4ビットの圧縮データフォーマットに変換してデータ送信処理、およびデータ受信処理をする第2の例を説明する図である。 10ビットの元画像データフォーマットを6ビットの圧縮データフォーマットに変換してデータ送信処理、およびデータ受信処理をする例を説明する図である。 10ビットの元画像データフォーマットを5ビットの圧縮データフォーマットに変換してデータ送信処理、およびデータ受信処理をする例を説明する図である。 32画素の12ビットの元画像データフォーマットを12ビットの元画像データフォーマットと同一の構成の16画素の圧縮データフォーマットに変換してデータ送信処理、およびデータ受信処理をする例を説明する図である。 32画素の12ビットの元画像データフォーマットを12ビットの元画像データフォーマットと同一の構成の16画素の圧縮データフォーマットに変換してデータ送信処理、およびデータ受信処理をする例を説明する図である。 32画素の12ビットの元画像データフォーマットを12ビットの元画像データフォーマットと同一の構成の16画素の圧縮データフォーマットに変換してデータ送信処理、およびデータ受信処理をする例を説明する図である。 元画像データフォーマットのビット数、および圧縮率を設定する設定処理を説明する図である。 汎用のパーソナルコンピュータの構成例を説明する図である。
<伝送システムの第1の構成例>
まず、図1を参照して、本発明の一実施形態に係る伝送システムの第1の構成例について説明する。
図1の伝送システム1は、イメージセンサ11とDSP12から構成される。イメージセンサ11とDSP12はそれぞれ異なるLSI(Large Scale Integrated Circuit)により構成され、デジタルカメラや携帯電話機などの、撮像機能を有する同じ撮像装置内に設けられる。イメージセンサ11には撮像部21と1つの送信部22が設けられ、DSP12には1つの受信部31と画像処理部32が設けられている。
イメージセンサ11の撮像部21は、CMOS(Complementary Metal Oxide Semiconductor)などの撮像素子よりなり、レンズを介して受光した光の光電変換を行う。また、撮像部21は、光電変換によって得られた信号のA/D変換などを行い、1フレームの画像を構成する画素データを、1画素のデータずつ順に送信部22に出力する。
送信部22は、撮像部21から供給された各画素のデータを、例えば撮像部21から供給された順に複数の伝送路に割り当て、複数の伝送路を介して並列にDSP12に送信する。図1の例においては、8本の伝送路を用いて画素データの伝送が行われている。イメージセンサ11とDSP12の間の伝送路は有線の伝送路であってもよいし、無線の伝送路であってもよい。以下、適宜、イメージセンサ11とDSP12の間の伝送路をレーン(Lane)という。
DSP12の受信部31は、8本のレーンを介して送信部22から伝送されてきた画素データを受信し、各画素のデータを順に画像処理部32に出力する。
画像処理部32は、受信部31から供給された画素データに基づいて1フレームの画像を生成し、生成した画像を用いて各種の画像処理を行う。イメージセンサ11からDSP12に伝送される画像データはRAWデータであり、画像処理部32においては、画像データの圧縮、画像の表示、記録媒体に対する画像データの記録などの各種の処理が行われる。
<伝送システムの第2の構成例>
次に、図2を参照して、伝送システム1の第2の構成例について説明する。図2に示す構成のうち、図1に示す構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
図2の伝送システム1のイメージセンサ11には、撮像部21と、2つの送信部である送信部22−1,22−2が設けられ、DSP12には、2つの受信部である受信部31−1,31−2と、画像処理部32が設けられている。
撮像部21は、撮像を行うことによって得られた1フレームの画像を構成する画素データを、1画素のデータずつ、送信部22−1と送信部22−2に並列に出力する。例えば、撮像部21は、奇数ラインの画素のデータを送信部22−1に出力し、偶数ラインの画素のデータを送信部22−2に出力する。
送信部22−1は、撮像部21から供給された各画素のデータを、例えば撮像部21から供給された順に複数のレーンに割り当て、複数のレーンを介して並列にDSP12に送信する。送信部22−2も同様に、撮像部21から供給された各画素のデータを、例えば撮像部21から供給された順に複数のレーンに割り当て、複数のレーンを介して並列にDSP12に送信する。
図2の例においてもイメージセンサ11とDSP12の間は8本のレーンを介して接続されている。送信部22−1と送信部22−2は、それぞれ、4本のレーンを用いて画素データを伝送する。
DSP12の受信部31−1は、4本のレーンを介して送信部22−1から伝送されてきた画素データを受信し、各画素のデータを順に画像処理部32に出力する。受信部31−2も同様に、4本のレーンを介して送信部22−2から伝送されてきた画素データを受信し、各画素のデータを順に画像処理部32に出力する。
画像処理部32は、受信部31−1から供給された画素データと受信部31−2から供給された画素データに基づいて1フレームの画像を生成し、生成した画像を用いて各種の画像処理を行う。
図2に示すようにイメージセンサ11に2つの送信部を設け、それに対応させて2つの受信部をDSP12に設けることにより、撮像部21が出力する画素データの伝送レートが高い場合であっても画素データをDSP12に伝送することが可能になる。
<伝送システムの第3の構成例>
次に、図3を参照して、伝送システム1の第3の構成例について説明する。図3に示す構成のうち、図1に示す構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
図3の伝送システム1においては、イメージセンサ11−1とイメージセンサ11−2の2つのイメージセンサが設けられている。イメージセンサ11−1には撮像部21−1と1つの送信部である送信部22−1が設けられ、イメージセンサ11−2には撮像部21−2と1つの送信部である送信部22−2が設けられる。DSP12には、図2の場合と同様に、2つの受信部である受信部31−1,31−2と、画像処理部32が設けられている。
イメージセンサ11−1の撮像部21−1は、撮像を行うことによって得られた1フレームの画像を構成する画素データを、1画素のデータずつ順に送信部22−1に出力する。
送信部22−1は、撮像部21−1から供給された各画素のデータを、例えば撮像部21−1から供給された順に複数のレーンに割り当て、複数のレーンを介して並列にDSP12に送信する。
イメージセンサ11−2の撮像部21−2は、撮像を行うことによって得られた1フレームの画像を構成する画素データを、1画素のデータずつ順に送信部22−2に出力する。
送信部22−2は、撮像部21−2から供給された各画素のデータを、例えば撮像部21−2から供給された順に複数のレーンに割り当て、複数のレーンを介して並列にDSP12に送信する。
図3の例においてもイメージセンサ側とDSP12の間は8本のレーンを介して接続されている。イメージセンサ11−1とイメージセンサ11−2にはそれぞれ4本のレーンが割り当てられ、送信部22−1と送信部22−2は、それぞれ、4本のレーンを用いて画素データを伝送する。
DSP12の受信部31−1は、4本のレーンを介してイメージセンサ11−1の送信部22−1から伝送されてきた画素データを受信し、各画素のデータを順に画像処理部32に出力する。受信部31−2も同様に、4本のレーンを介してイメージセンサ11−2の送信部22−2から伝送されてきた画素データを受信し、各画素のデータを順に画像処理部32に出力する。
画像処理部32は、受信部31−1から供給された画素データに基づいて1フレームの画像を生成するとともに、受信部31−2から供給された画素データに基づいて1フレームの画像を生成する。画像処理部32は、生成した画像を用いて各種の画像処理を行う。
図3に示すように2つのイメージセンサを設けることにより、例えば、イメージセンサ11−1により撮像された左目用の画像と、イメージセンサ11−2により撮像された右目用の画像からなる3D画像を1つのDSP12で処理することが可能になる。左目用の画像と右目用の画像には視差がある。
以上のように、伝送システム1のイメージセンサには、撮像された1フレームの画像データを伝送する送信部が1つまたは複数設けられる。一方、DSPには、イメージセンサの送信部に対応して、イメージセンサから伝送されてきたデータを受信する受信部が1つまたは複数設けられる。
以下、イメージセンサ11に1つの送信部が設けられ、DSP12に1つの受信部が設けられる図1の伝送システム1におけるデータ伝送について説明する。図2と図3の送信部22−1−受信部31−1間、送信部22−2−受信部31−2間においても同様にしてデータ伝送が行われる。
<フレームフォーマット>
次に、図4を参照して、イメージセンサ11−DSP12間で1フレームの画像データを伝送するのに用いられるフォーマットの例を説明する。
有効画素領域A1は、撮像部21により撮像された1フレームの画像の有効画素の領域である。有効画素領域A1の左側には、垂直方向の画素数が有効画素領域A1の垂直方向の画素数と同じであるマージン領域A2が設定される。
有効画素領域A1の上側には、水平方向の画素数が、有効画素領域A1とマージン領域A2全体の水平方向の画素数と同じである前ダミー領域A3が設定される。図4の例においては、前ダミー領域A3にはEmbedded Dataが挿入されている。Embedded Dataは、シャッタスピード、絞り値、ゲインなどの、撮像部21による撮像に関する設定値の情報が含まれる。後ダミー領域A4にEmbedded Dataが挿入されることもある。
有効画素領域A1の下側には、水平方向の画素数が、有効画素領域A1とマージン領域A2全体の水平方向の画素数と同じである後ダミー領域A4が設定される。
有効画素領域A1、マージン領域A2、前ダミー領域A3、および後ダミー領域A4から画像データ領域A11が構成される。
画像データ領域A11を構成する各ラインの前にはヘッダが付加され、ヘッダの前にはStart Codeが付加される。また、画像データ領域A11を構成する各ラインの後ろにはフッタがオプションで付加され、フッタの後ろにはEnd Codeなどの後述する制御コードが付加される。フッタが付加されない場合、画像データ領域A11を構成する各ラインの後ろにEnd Codeなどの制御コードが付加される。
撮像部21により撮像された1フレームの画像をイメージセンサ11からDSP12に伝送する毎に、図4に示すフォーマットのデータ全体が伝送データとして伝送される。
図4の上側の帯は下側に示す伝送データの伝送に用いられるパケットの構造を示している。水平方向の画素の並びをラインとすると、パケットのペイロードには、画像データ領域A11の1ラインを構成する画素のデータが格納される。1フレームの画像データ全体の伝送は、画像データ領域A11の垂直方向の画素数以上の数のパケットを用いて行われることになる。
1ライン分の画素データが格納されたペイロードに、ヘッダとフッタが付加されることによって1パケットが構成される。後に詳述するように、ヘッダには、Frame Start, Frame End, Line Valid, Line Number, ECCなどの、ペイロードに格納されている画素データの付加的な情報が含まれる。各パケットには、制御コードであるStart CodeとEnd Codeが少なくとも付加される。
このように、1フレームの画像を構成する画素データをライン毎に伝送するフォーマットを採用することによって、ヘッダ等の付加的な情報やStart Code, End Codeなどの制御コードをライン毎のブランキング期間中に伝送することが可能になる。
<送信部22と受信部31の構成>
次に、図5を参照して、送信部22と受信部31の構成例について説明する。
図5の左側に破線で囲んで示す構成が送信部22の構成であり、右側に破線で囲んで示す構成が受信部31の構成である。送信部22と受信部31は、それぞれ、リンクレイヤの構成と物理レイヤの構成からなる。実線L2より上側に示す構成がリンクレイヤの構成であり、実線L2より下側に示す構成が物理レイヤの構成である。
なお、実線L1の上に示す構成はアプリケーションレイヤの構成である。システム制御部51、フレームデータ入力部52、レジスタ53、および圧縮部54は撮像部21において実現される。システム制御部51は、送信部22のLINK-TXプロトコル管理部61と通信を行い、フレームフォーマットに関する情報を提供するなどして画像データの伝送を制御する。フレームデータ入力部52は、ユーザによる指示などに応じて撮像を行い、撮像を行うことによって得られた画像を構成する各画素のデータを、圧縮部54を介して送信部22の変換部62に供給する。圧縮部54は、各画素のデータのビット数を、所定のビット数に圧縮して、圧縮した画素のデータを送信部22の変換部62に供給する。レジスタ53は、圧縮部54における圧縮率、変換部62における変換のビット数、およびLane数等の情報を記憶する。レジスタ53に記憶されている情報に従って圧縮された画像データの送信処理が行われる。
また、アプリケーションレイヤの構成のうちのフレームデータ出力部141、レジスタ142、システム制御部143、および伸張部144は画像処理部32において実現される。フレームデータ出力部141は、受信部31から供給された各ラインの画素データであって、伸張部144により伸張された画素データに基づいて1フレームの画像を生成し、出力する。フレームデータ出力部141から出力された画像を用いて各種の処理が行われる。レジスタ142は、伸張部144における伸張率、変換部125における変換のビット数、およびLane数などの、画像データの受信に関する各種の設定値を記憶する。レジスタ142に記憶されている情報に従って画像データの受信処理が行われる。システム制御部143は、LINK-RXプロトコル管理部121と通信を行い、モードチェンジ等のシーケンスを制御する。
伸張部144は、圧縮部54の圧縮率に対応して各ラインの画素データを伸張する。また、イメージセンサ11のシステム制御部51と、DSP12のシステム制御部143とは、シリアル通信により、レジスタ53に記憶される、圧縮部54における圧縮率、伸張部144が対応すべき圧縮率、変換部62,125における変換のビット数、およびLane数等の情報を、送受信し、それぞれがレジスタ53,142に設定する。このとき、DSP12のシステム制御部143は、図示せぬユーザの入力を受け付ける操作信号に基づいて、元画像データフォーマットのビット数や圧縮データフォーマットのビット数などの情報を受け付けて、イメージセンサ11のシステム制御部51に対して設定すべき、圧縮率、および変換部62,125の変換率を設定する。または、システム制御部143は、撮像部21により撮像されるISO(国際標準化機構)感度により、高感度撮像するような場合、ノイズの影響を受けやすいので、画素データフォーマットの圧縮率を低くするように設定し、逆に、低感度であるような場合、ノイズの影響は小さいので、高圧縮率に設定するといったように、撮像条件に応じて圧縮率を設定するようにする。
はじめに、送信部22のリンクレイヤの構成について説明する。
送信部22には、リンクレイヤの構成として、LINK-TXプロトコル管理部61、変換部62、ペイロードECC挿入部63、パケット生成部64、およびレーン分配部65が設けられる。LINK-TXプロトコル管理部61は、状態制御部71、ヘッダ生成部72、データ挿入部73、およびフッタ生成部74から構成される。
LINK-TXプロトコル管理部61の状態制御部71は、送信部22のリンクレイヤの状態を管理する。
ヘッダ生成部72は、1ライン分の画素データが格納されたペイロードに付加されるヘッダを生成し、パケット生成部64に出力する。
図6は、ヘッダ生成部72により生成されるヘッダの構造を示す図である。
上述したように、1パケット全体は、ヘッダと、1ライン分の画素データであるペイロードデータから構成される。パケットにはフッタが付加されることもある。ヘッダは、ヘッダ情報とHeader ECCから構成される。
ヘッダ情報には、Frame Start, Frame End, Line Valid, Line Number, Reservedが含まれる。各情報の内容と情報量を図7に示す。
Frame Startは、フレームの先頭を示す1ビットの情報である。図4の画像データ領域A11の1ライン目の画素データの伝送に用いられるパケットのヘッダのFrame Startには1の値が設定され、他のラインの画素データの伝送に用いられるパケットのヘッダのFrame Startには0の値が設定される。
Frame Endは、フレームの終端を示す1ビットの情報である。有効画素領域A1の終端ラインの画素データをペイロードに含むパケットのヘッダのFrame Endには1の値が設定され、他のラインの画素データの伝送に用いられるパケットのヘッダのFrame Endには0の値が設定される。
Frame StartとFrame Endが、フレームに関する情報であるフレーム情報となる。
Line Validは、ペイロードに格納されている画素データのラインが有効画素のラインであるのか否かを表す1ビットの情報である。有効画素領域A1内のラインの画素データの伝送に用いられるパケットのヘッダのLine Validには1の値が設定され、他のラインの画素データの伝送に用いられるパケットのヘッダのLine Validには0の値が設定される。
Line Numberは、ペイロードに格納されている画素データにより構成されるラインのライン番号を表す13ビットの情報である。
Line ValidとLine Numberが、ラインに関する情報であるライン情報となる。
Reservedは拡張用の32ビットの領域である。ヘッダ情報全体のデータ量は6バイトになる。
図6に示すように、ヘッダ情報に続けて配置されるHeader ECCには、6バイトのヘッダ情報に基づいて計算された2バイトの誤り検出符号であるCRC(Cyclic Redundancy Check)符号が含まれる。また、Header ECCには、CRC符号に続けて、ヘッダ情報とCRC符号の組である8バイトの情報と同じ情報が2つ含まれる。
すなわち、1つのパケットのヘッダには、同じヘッダ情報とCRC符号の組が3つ含まれる。ヘッダ全体のデータ量は、1組目のヘッダ情報とCRC符号の組の8バイトと、2組目のヘッダ情報とCRC符号の組の8バイトと、3組目のヘッダ情報とCRC符号の組の8バイトとの、あわせて24バイトになる。
図8は、ヘッダ情報とCRC符号の1つの組を構成する8バイトのビット配列の例を示す図である。
ヘッダを構成する8バイトのうちの1番目の1バイトであるバイトH7には、1ビット目から順に、Frame Start, Frame End, Line Validの各1ビットと、Line Numberの13ビットのうちの1〜5ビット目が含まれる。また、2番目の1バイトであるバイトH6には、Line Numberの13ビットのうちの6〜13ビット目が含まれる。
3番目の1バイトであるバイトH5から6番目の1バイトであるバイトH2がReservedとなる。7番目の1バイトであるバイトH1と8番目の1バイトであるバイトH0にはCRC符号の各ビットが含まれる。
図5の説明に戻り、ヘッダ生成部72は、システム制御部51による制御に従ってヘッダ情報を生成する。例えば、システム制御部51からは、フレームデータ入力部52が出力する画素データのライン番号を表す情報や、フレームの先頭、終端を表す情報が供給される。
また、ヘッダ生成部72は、ヘッダ情報を生成多項式に適用してCRC符号を計算する。ヘッダ情報に付加されるCRC符号の生成多項式は、例えば以下の式(1)により表される。
Figure 2014084072
ヘッダ生成部72は、ヘッダ情報にCRC符号を付加することによってヘッダ情報とCRC符号の組を生成し、同じヘッダ情報とCRC符号の組を3組繰り返して配置することによってヘッダを生成する。ヘッダ生成部72は、生成したヘッダをパケット生成部64に出力する。
データ挿入部73は、スタッフィング(stuffing)に用いられるデータを生成し、変換部62とレーン分配部65に出力する。変換部62に供給されたスタッフィングデータであるペイロードスタッフィングデータは、変換部62による変換後の画素データに付加され、ペイロードに格納される画素データのデータ量の調整に用いられる。また、レーン分配部65に供給されたスタッフィングデータであるレーンスタッフィングデータは、レーン割り当て後のデータに付加され、レーン間のデータ量の調整に用いられる。
フッタ生成部74は、システム制御部51による制御に応じて、適宜、ペイロードデータを生成多項式に適用して32ビットのCRC符号を計算し、計算により求めたCRC符号をフッタとしてパケット生成部64に出力する。フッタとして付加されるCRC符号の生成多項式は、例えば、以下の式(2)により表される。
Figure 2014084072
変換部62は、フレームデータ入力部52から供給された画素データであって、圧縮部54により圧縮された圧縮データを取得し、各画素の圧縮データを1バイト単位のデータに変換する。例えば、撮像部21により撮像された画像の各画素の画素値(RGB)の圧縮データは、8ビット、10ビット、12ビット、14ビット、16ビットのうちのいずれかのビット数で表される。
図5の変換部62は、このような変換を例えばラインの左端の画素から順に各画素を対象として行う。また、変換部62は、変換によって得られたバイト単位の圧縮データに、データ挿入部73から供給されたペイロードスタッフィングデータを付加することによってペイロードデータを生成し、ペイロードECC挿入部63に出力する。
変換部62による変換後の圧縮データは、変換によって得られた順に、所定の数のグループにグループ化される。
送信部22のリンクレイヤにおいては、このようにしてグループ化が行われた後、クロック信号によって規定される期間毎に、各グループにおいて同じ位置にある圧縮データを対象として処理が並行して行われる。
上述したように、1つのパケットのペイロードには1ラインの画素データに対応する圧縮データが含まれる。
1ライン分の画素データに対応する圧縮データがグループ化された後、各グループのデータ長が同じ長さになるように、ペイロードスタッフィングデータが付加される。ペイロードスタッフィングデータは1バイトのデータである。
ペイロードECC挿入部63は、変換部62から供給されたペイロードデータに基づいて、ペイロードデータの誤り訂正に用いられる誤り訂正符号を計算し、計算により求めた誤り訂正符号であるパリティをペイロードデータに挿入する。誤り訂正符号として、例えばリードソロモン符号が用いられる。なお、誤り訂正符号の挿入はオプションであり、例えば、ペイロードECC挿入部63によるパリティの挿入と、フッタ生成部74によるフッタの付加はいずれか一方のみを行うことが可能とされる。
ペイロードECC挿入部63は、パリティを挿入したペイロードデータをパケット生成部64に出力する。パリティの挿入が行われない場合、変換部62からペイロードECC挿入部63に供給されたペイロードデータは、そのままパケット生成部64に出力される。
パケット生成部64は、ペイロードECC挿入部63から供給されたペイロードデータに、ヘッダ生成部72により生成されたヘッダを付加することによってパケットを生成する。フッタ生成部74によりフッタの生成が行われている場合、パケット生成部64は、ペイロードデータにフッタを付加することも行う。
パケット生成部64は、生成した1パケットを構成するデータであるパケットデータをレーン分配部65に出力する。レーン分配部65に対しては、ヘッダデータとペイロードデータからなるパケットデータ、ヘッダデータとペイロードデータとフッタデータからなるパケットデータ、または、ヘッダデータと、パリティが挿入されたペイロードデータからなるパケットデータが供給されることになる。図6のパケット構造は論理的なものであり、リンクレイヤ、物理レイヤにおいては、図6の構造を有するパケットのデータがバイト単位で処理される。
レーン分配部65は、パケット生成部64から供給されたパケットデータを、先頭のデータから順に、Lane0〜7のうちのデータ伝送に用いる各レーンに割り当てる。
レーン分配部65は、このようにして各レーンに割り当てたパケットデータを物理レイヤに出力する。以下、Lane0〜7の8レーンを用いてデータを伝送する場合について主に説明するが、データ伝送に用いるレーンの数が他の数の場合であっても同様の処理が行われる。
次に、送信部22の物理レイヤの構成について説明する。
送信部22には、物理レイヤの構成として、PHY-TX状態制御部81、クロック生成部82、信号処理部83−0乃至83−Nが設けられる。信号処理部83−0は、制御コード挿入部91、8B10Bシンボルエンコーダ92、同期部93、および送信部94から構成される。レーン分配部65から出力された、Lane0に割り当てられたパケットデータは信号処理部83−0に入力され、Lane1に割り当てられたパケットデータは信号処理部83−1に入力される。また、LaneNに割り当てられたパケットデータは信号処理部83−Nに入力される。
このように、送信部22の物理レイヤには、信号処理部83−0乃至83−Nがレーンの数と同じ数だけ設けられ、各レーンを用いて伝送するパケットデータの処理が、信号処理部83−0乃至83−Nのそれぞれにおいて並行して行われる。信号処理部83−0の構成について説明するが、信号処理部83−1乃至83−Nも同様の構成を有する。
PHY-TX状態制御部81は、信号処理部83−0乃至83−Nの各部を制御する。例えば、信号処理部83−0乃至83−Nにより行われる各処理のタイミングがPHY-TX状態制御部81により制御される。
クロック生成部82は、クロック信号を生成し、信号処理部83−0乃至83−Nのそれぞれの同期部93に出力する。
信号処理部83−0の制御コード挿入部91は、レーン分配部65から供給されたパケットデータに対して制御コードを付加する。制御コードは、予め用意された複数種類のシンボルの中から選択された1つのシンボルにより、または複数種類のシンボルの組み合わせにより表されるコードである。制御コード挿入部91により挿入される各シンボルは8ビットのデータである。後段の回路で8B10B変換が施されることによって、制御コード挿入部91により挿入された1シンボルは10ビットのデータになる。一方、受信部31においては後述するように受信データに対して10B8B変換が施されるが、受信データに含まれる10B8B変換前の各シンボルは10ビットのデータであり、10B8B変換後の各シンボルは8ビットのデータになる。
制御コードには、Idle Code, Start Code, End Code, Pad Code, Sync Code, Deskew Code, Standby Codeがある。
Idle Codeは、パケットデータの伝送時以外の期間に繰り返し送信されるシンボル群である。Idle Codeは、8B10B CodeであるD CharacterのD00.0(00000000)で表される。
Start Codeは、パケットの開始を示すシンボル群である。上述したように、Start Codeはパケットの前に付加される。Start Codeは、3種類のK Characterの組み合わせであるK28.5, K27.7, K28.2, K27.7の4シンボルで表される。
End Codeは、パケットの終了を示すシンボル群である。上述したように、End Codeはパケットの後ろに付加される。End Codeは、3種類のK Characterの組み合わせであるK28.5, K29.7, K30.7, K29.7の4シンボルで表される。
Pad Codeは、画素データ帯域とPHY伝送帯域の差を埋めるためにペイロードデータ中に挿入されるシンボル群である。画素データ帯域は、撮像部21から出力され、送信部22に入力される圧縮された画素データの伝送レートであり、PHY伝送帯域は、送信部22から送信され、受信部31に入力される圧縮された画素データの伝送レートである。Pad Codeは、4種類のK Characterの組み合わせであるK23.7, K28.4, K28.6, K28.7の4シンボルで表される。
Lane0に割り当てられたペイロードデータに対するPad Codeの挿入は信号処理部83−0の制御コード挿入部91により行われる。他のレーンに割り当てられたペイロードデータに対するPad Codeの挿入も同様に、信号処理部83−1乃至83−Nにおいてそれぞれ同じタイミングで行われる。Pad Codeの数は、画素データ帯域とPHY伝送帯域の差と、クロック生成部82が生成するクロック信号の周波数などに基づいて決定される。
このように、Pad Codeは、画素データ帯域が狭く、PHY伝送帯域が広い場合に、双方の帯域の差を調整するために挿入される。例えば、Pad Codeが挿入されることによって、画素データ帯域とPHY伝送帯域の差が一定の範囲内に収まるように調整される。
Sync Codeは、送信部22−受信部31間のビット同期、シンボル同期を確保するために用いられるシンボル群である。Sync Codeは、K28.5, Any**の2シンボルで表される。Any**は、どの種類のシンボルが用いられてもよいことを表す。Sync Codeは、例えば送信部22−受信部31間でパケットデータの伝送が開始される前のトレーニングモード時に繰り返し送信される。
Deskew Codeは、レーン間のData Skew、すなわち、受信部31の各レーンで受信されるデータの受信タイミングのずれの補正に用いられるシンボル群である。Deskew Codeは、K28.5, Any**の2シンボルで表される。Deskew Codeを用いたレーン間のData Skewの補正については後述する。
Standby Codeは、送信部22の出力がHigh-Z(ハイインピーダンス)などの状態になり、データ伝送が行われなくなることを受信部31に通知するために用いられるシンボル群である。すなわち、Standby Codeは、パケットデータの伝送を終了し、Standby状態になるときに受信部31に対して伝送される。Standby Codeは、K28.5, Any**の2シンボルで表される。
制御コード挿入部91は、このような制御コードを付加したパケットデータを8B10Bシンボルエンコーダ92に出力する。
8B10Bシンボルエンコーダ92は、制御コード挿入部91から供給されたパケットデータ(制御コードが付加されたパケットデータ)に対して8B10B変換を施し、10ビット単位のデータに変換したパケットデータを同期部93に出力する。
同期部93は、8B10Bシンボルエンコーダ92から供給されたパケットデータの各ビットを、クロック生成部82により生成されたクロック信号に従って送信部94に出力する。
送信部94は、Lane0を構成する伝送路を介して、同期部93から供給されたパケットデータを受信部31に送信する。8レーンを用いてデータ伝送が行われる場合、Lane1〜7を構成する伝送路をも用いてパケットデータが受信部31に送信される。
次に、受信部31の物理レイヤの構成について説明する。
受信部31には、物理レイヤの構成として、PHY-RX状態制御部101、信号処理部102−0乃至102−Nが設けられる。信号処理部102−0は、受信部111、クロック生成部112、同期部113、シンボル同期部114、10B8Bシンボルデコーダ115、スキュー補正部116、および制御コード除去部117から構成される。Lane0を構成する伝送路を介して送信されてきたパケットデータは信号処理部102−0に入力され、Lane1を構成する伝送路を介して送信されてきたパケットデータは信号処理部102−1に入力される。また、LaneNを構成する伝送路を介して送信されてきたパケットデータは信号処理部102−Nに入力される。
このように、受信部31の物理レイヤには、信号処理部102−0乃至102−Nがレーンの数と同じ数だけ設けられ、各レーンを用いて伝送されてきたパケットデータの処理が、信号処理部102−0乃至102−Nのそれぞれにおいて並行して行われる。信号処理部102−0の構成について説明するが、信号処理部102−1乃至102−Nも同様の構成を有する。
受信部111は、Lane0を構成する伝送路を介して送信部22から伝送されてきたパケットデータを表す信号を受信し、クロック生成部112に出力する。
クロック生成部112は、受信部111から供給された信号のエッジを検出することによってビット同期をとり、エッジの検出周期に基づいてクロック信号を生成する。クロック生成部112は、受信部111から供給された信号を、クロック信号とともに同期部113に出力する。
同期部113は、クロック生成部112により生成されたクロック信号に従って、受信部111において受信された信号のサンプリングを行い、サンプリングによって得られたパケットデータをシンボル同期部114に出力する。クロック生成部112と同期部113によりCDR(Clock Data Recovery)の機能が実現される。
シンボル同期部114は、パケットデータに含まれる制御コードを検出することによって、または制御コードに含まれる一部のシンボルを検出することによってシンボル同期をとる。例えば、シンボル同期部114は、Start Code, End Code, Deskew Codeに含まれるK28.5のシンボルを検出し、シンボル同期をとる。シンボル同期部114は、各シンボルを表す10ビット単位のパケットデータを10B8Bシンボルデコーダ115に出力する。
また、シンボル同期部114は、パケットデータの伝送が開始される前のトレーニングモード時に送信部22から繰り返し送信されてくるSync Codeに含まれるシンボルの境界を検出することによってシンボル同期をとる。
10B8Bシンボルデコーダ115は、シンボル同期部114から供給された10ビット単位のパケットデータに対して10B8B変換を施し、8ビット単位のデータに変換したパケットデータをスキュー補正部116に出力する。
スキュー補正部116は、10B8Bシンボルデコーダ115から供給されたパケットデータからDeskew Codeを検出する。スキュー補正部116によるDeskew Codeの検出タイミングの情報はPHY-RX状態制御部101に供給される。
また、スキュー補正部116は、Deskew Codeのタイミングを、PHY-RX状態制御部101から供給された情報により表されるタイミングに合わせるようにしてレーン間のData Skewを補正する。PHY-RX状態制御部101からは、信号処理部102−0乃至102−Nのそれぞれにおいて検出されたDeskew Codeのタイミングのうち、最も遅いタイミングを表す情報が供給されてくる。
信号処理部102−1乃至102−Nのそれぞれにおいて同様の処理が行われることによって、レーン間のData Skewが補正される。
スキュー補正部116は、Data Skewを補正したパケットデータを制御コード除去部117に出力する。
制御コード除去部117は、パケットデータに付加された制御コードを除去し、Start CodeからEnd Codeまでの間のデータをパケットデータとしてリンクレイヤに出力する。
PHY-RX状態制御部101は、信号処理部102−0乃至102−Nの各部を制御し、レーン間のData Skewの補正などを行わせる。また、PHY-RX状態制御部101は、所定のレーンで伝送エラーが起きて制御コードが失われた場合、失われた制御コードに代えて、他のレーンで伝送されてきた制御コードを付加することによって制御コードの誤り訂正を行う。
次に、受信部31のリンクレイヤの構成について説明する。
受信部31には、リンクレイヤの構成として、LINK-RXプロトコル管理部121、レーン統合部122、パケット分離部123、ペイロードエラー訂正部124、および変換部125が設けられる。LINK-RXプロトコル管理部121は、状態管理部131、ヘッダエラー訂正部132、データ除去部133、およびフッタエラー検出部134から構成される。
レーン統合部122は、物理レイヤの信号処理部102−0乃至102−Nから供給されたパケットデータを、送信部22のレーン分配部65による各レーンへの分配順と逆順で並び替えることによって統合する。
パケット分離部123は、レーン統合部122により統合された1パケット分のパケットデータを、ヘッダデータを構成するパケットデータとペイロードデータを構成するパケットデータに分離する。パケット分離部123は、ヘッダデータをヘッダエラー訂正部132に出力し、ペイロードデータをペイロードエラー訂正部124に出力する。
また、パケット分離部123は、パケットにフッタが含まれている場合、1パケット分のデータを、ヘッダデータを構成するパケットデータとペイロードデータを構成するパケットデータとフッタデータを構成するパケットデータに分離する。パケット分離部123は、ヘッダデータをヘッダエラー訂正部132に出力し、ペイロードデータをペイロードエラー訂正部124に出力する。また、パケット分離部123は、フッタデータをフッタエラー検出部134に出力する。
ペイロードエラー訂正部124は、パケット分離部123から供給されたペイロードデータにパリティが挿入されている場合、パリティに基づいて誤り訂正演算を行うことによってペイロードデータのエラーを検出し、検出したエラーの訂正を行う。
ペイロードエラー訂正部124は、各Basic Block, Extra Blockを対象として誤り訂正を行うことによって得られた誤り訂正後の画素データの圧縮データを変換部125に出力する。パケット分離部123から供給されたペイロードデータにパリティが挿入されていない場合、パケット分離部123から供給されたペイロードデータはそのまま変換部125に出力される。
変換部125は、ペイロードエラー訂正部124から供給されたペイロードデータに含まれるペイロードスタッフィングデータをデータ除去部133による制御に従って除去する。
また、変換部125は、ペイロードスタッフィングデータを除去して得られたバイト単位の各画素データの圧縮データを、8ビット、10ビット、12ビット、14ビット、または16ビット単位の圧縮データに変換する。変換部125においては、送信部22の変換部62による変換と逆の変換が行われる。
変換部125は、変換によって得られた8ビット、10ビット、12ビット、14ビット、または16ビット単位の圧縮された画素データを、伸張部144を介してフレームデータ出力部141に出力する。この際、伸張部144は、圧縮された画素データを伸張処理して元の画素データに復元し、フレームデータ出力部141に出力する。フレームデータ出力部141においては、例えば、ヘッダ情報のLine Validにより特定される有効画素の各ラインが変換部125により得られた画素データに基づいて生成され、ヘッダ情報のLine Numberに従って各ラインが並べられることによって1フレームの画像が生成される。
LINK-RXプロトコル管理部121の状態管理部131は、受信部31のリンクレイヤの状態を管理する。
ヘッダエラー訂正部132は、パケット分離部123から供給されたヘッダデータに基づいてヘッダ情報とCRC符号の組を3組取得する。ヘッダエラー訂正部132は、ヘッダ情報とCRC符号の組の各組を対象として、ヘッダ情報のエラーを検出するための演算である誤り検出演算を、そのヘッダ情報と同じ組のCRC符号を用いて行う。
また、ヘッダエラー訂正部132は、それぞれの組のヘッダ情報の誤り検出結果と、誤り検出演算により求められたデータの比較結果とのうちの少なくともいずれかに基づいて正しいヘッダ情報を推測し、正しいと推測したヘッダ情報と復号結果を出力する。誤り検出演算により求められたデータは、ヘッダ情報にCRCの生成多項式を適用することによって求められた値である。また、復号結果は、復号成功または復号失敗を表す情報である。
ヘッダ情報とCRC符号の3つの組をそれぞれ組1、組2、組3とする。この場合、ヘッダエラー訂正部132は、組1を対象とした誤り検出演算によって、組1のヘッダ情報にエラーがあるか否か(誤り検出結果)と、誤り検出演算により求められたデータであるデータ1を取得する。また、ヘッダエラー訂正部132は、組2を対象とした誤り検出演算によって、組2のヘッダ情報にエラーがあるか否かと、誤り検出演算により求められたデータであるデータ2を取得する。ヘッダエラー訂正部132は、組3を対象とした誤り検出演算によって、組3のヘッダ情報にエラーがあるか否かと、誤り検出演算により求められたデータであるデータ3を取得する。
また、ヘッダエラー訂正部132は、データ1とデータ2が一致するか否か、データ2とデータ3が一致するか否か、データ3とデータ1が一致するか否かをそれぞれ判定する。
例えば、ヘッダエラー訂正部132は、組1、組2、組3を対象としたいずれの誤り検出演算によっても誤りが検出されず、誤り検出演算によって求められたデータのいずれの比較結果もが一致した場合、復号結果として、復号成功を表す情報を選択する。また、ヘッダエラー訂正部132は、いずれのヘッダ情報も正しいと推測し、組1のヘッダ情報、組2のヘッダ情報、組3のヘッダ情報のうちのいずれかを出力情報として選択する。
一方、ヘッダエラー訂正部132は、組1を対象とした誤り検出演算でだけ誤りが検出されなかった場合、復号結果として、復号成功を表す情報を選択するとともに、組1のヘッダ情報が正しいと推測し、組1のヘッダ情報を出力情報として選択する。
また、ヘッダエラー訂正部132は、組2を対象とした誤り検出演算でだけ誤りが検出されなかった場合、復号結果として、復号成功を表す情報を選択するとともに、組2のヘッダ情報が正しいと推測し、組2のヘッダ情報を出力情報として選択する。
ヘッダエラー訂正部132は、組3を対象とした誤り検出演算でだけ誤りが検出されなかった場合、復号結果として、復号成功を表す情報を選択するとともに、組3のヘッダ情報が正しいと推測し、組3のヘッダ情報を出力情報として選択する。
ヘッダエラー訂正部132は、以上のようにして選択した復号結果と出力情報をレジスタ142に出力し、記憶させる。このように、ヘッダエラー訂正部132によるヘッダ情報の誤り訂正は、複数のヘッダ情報の中から、エラーのないヘッダ情報をCRC符号を用いて検出し、検出したヘッダ情報を出力するようにして行われる。
データ除去部133は、レーン統合部122を制御してレーンスタッフィングデータを除去し、変換部125を制御してペイロードスタッフィングデータを除去する。
フッタエラー検出部134は、パケット分離部123から供給されたフッタデータに基づいて、フッタに格納されたCRC符号を取得する。フッタエラー検出部134は、取得したCRC符号を用いて誤り検出演算を行い、ペイロードデータのエラーを検出する。フッタエラー検出部134は、誤り検出結果を出力し、レジスタ142に記憶させる。
<イメージセンサ11とDSP12の動作>
次に、以上のような構成を有する送信部22と受信部31の一連の処理について説明する。
はじめに、図9のフローチャートを参照して、伝送システム1を有する撮像装置の動作について説明する。図9の処理は、例えば、撮像装置に設けられたシャッタボタンが押されるなどして撮像の開始が指示されたときに開始される。
ステップS1において、イメージセンサ11の撮像部21は撮像を行う。撮像部21のフレームデータ入力部52(図5)は、撮像によって得られた1フレームの画像を構成する画素データを、1画素のデータずつ順に圧縮部54で圧縮データに変換させた後、送信部22に出力する。
ステップS2において、送信部22によりデータ送信処理が行われる。データ送信処理により、1ライン分の画素データをペイロードに格納したパケットが生成され、パケットを構成するパケットデータが受信部31に対して送信される。データ送信処理については図10のフローチャートを参照して後述する。
ステップS3において、受信部31によりデータ受信処理が行われる。データ受信処理により、送信部22から送信されてきたパケットデータが受信され、ペイロードに格納されている画素データの圧縮データが画像処理部32に出力される。データ受信処理については図12のフローチャートを参照して後述する。
ステップS2において送信部22により行われるデータ送信処理と、ステップS3において受信部31により行われるデータ受信処理は、1ライン分の画素データを対象として交互に行われる。すなわち、ある1ラインの画素データがデータ送信処理によって送信されたとき、データ受信処理が行われ、データ受信処理によって1ラインの画素データが受信されたとき、次の1ラインの画素データを対象としてデータ送信処理が行われる。送信部22によるデータ送信処理と、受信部31によるデータ受信処理は、適宜、時間的に並行して行われることもある。ステップS4において、画像処理部32のフレームデータ出力部141は、1フレームの画像を構成する全てのラインの画素データの送受信が終了したか否かを判定し、終了していないと判定した場合、ステップS2以降の処理を繰り返し行わせる。
1フレームの画像を構成する全てのラインの画素データの送受信が終了したとステップS4において判定した場合、ステップS5において、画像処理部32のフレームデータ出力部141は、受信部31から供給された画素データに基づいて1フレームの画像を生成する。
ステップS6において、画像処理部32は、1フレームの画像を用いて画像処理を行い、処理を終了させる。
<データ送信処理>
次に、図10のフローチャートを参照して、図9のステップS2において行われるデータ送信処理について説明する。尚、図9においては、ステップS1の処理において、画素データが圧縮された後、変換部62に供給されるものとして説明されているが、説明の便宜上、データ送信処理において画素のデータが圧縮データにされる処理を含むものとして説明を進めるものとする。従って、ステップS1においては、画素データが圧縮部54に供給されるまでの処理であるものとする。
ステップS11において、ヘッダ生成部72は、Frame Start, Frame End, Line Valid, Line Number, Reservedからなるヘッダ情報を生成する。
ステップS12において、ヘッダ生成部72は、ヘッダ情報を生成多項式に適用してCRC符号を計算する。
ステップS13において、ヘッダ生成部72は、ヘッダ情報にCRC符号を付加することによってヘッダ情報とCRC符号の組を生成し、同じヘッダ情報とCRC符号の組を3組繰り返して配置することによってヘッダを生成する。
ステップS14において、圧縮部54は、フレームデータ入力部52から供給された画像を圧縮して、変換部62に供給する。
より具体的には、圧縮部54は、例えば、元の画像の画素データが12ビットの元画像データフォーマットである場合であって、このデータフォーマットを12ビットから6ビットに圧縮するとき、図11で示される最左列で示される元画像データフォーマットを、左から2列目で示されるように圧縮する。図11においては、最左列が元画像データフォーマットであり、左から2列目が圧縮された圧縮データフォーマットである。また、3列目は、後述する処理により、変換部62により圧縮データフォーマットからレーン数に対応して変換された伝送用データフォーマットであり、右から2列目が、後述する処理により伝送用データフォーマットから逆変換された圧縮データフォーマットであり、最右列が、圧縮データフォーマットが伸張された元画像データフォーマットを示している。また、最左列の場合、D_N[11]がMSBを表し、数字の最も小さいD_N[0]がLSBを表し、その他の列についても同様に表される。
すなわち、圧縮部54は、図11の最左列で示される元画像の画素N(Pixel4*N)および画素N+1(Pixel4*N+1)の画素データを表すデータD_N[0]〜[11],D_N+1[0]〜[11]のそれぞれの12ビットを、図11の左から2列目で示されるように、データCOMP_N[0]〜[5]とデータCOMP_N+1[0]〜[5]からなるそれぞれ6ビットのデータに圧縮し、さらにそれぞれ6ビットの2画素分のデータを元画像の1画素に相当する12ビットの元画像データフォーマットと同一の構造からなる圧縮データフォーマットのデータData2*Nに変換する。ここで、変換されたデータData2*Nを構成する2画素分の圧縮データを含む圧縮データフォーマットは、元画像における1画素の元画像データフォーマットと同様である。従って、図11の左から2列目の圧縮データは、1画素分の元画像データフォーマットに、圧縮された2画素分の圧縮データフォーマットからなるデータが配置されたものとなる。
また、同様に、図11の最左列で示される元画像の画素N+2(Pixel4*N+2)および画素N+3(Pixel4*N+3)の画素データを表す、それぞれ12ビットのデータD_N+2[0]〜[11],D_N+3[0]〜[11]が、図11の左から2列目で示されるように、データCOMP_N+2[0]〜[5]と、データCOMP_N+3[0]〜[5]とからなる6ビットの圧縮データに圧縮され、さらに、2画素分の圧縮データフォーマットからなる6ビットの圧縮データが、元画像データフォーマットの1画素分のデータに相当する12ビットの圧縮データフォーマットに配置されることでデータData2*N+1に変換される。
このように、圧縮部54においては、12ビットの元画像データフォーマットの元画像データが、規定のビット数の圧縮データフォーマットに圧縮されて、元画像の画素データフォーマットと同一の圧縮データフォーマット上に再配置される。この結果、データフォーマットについては、元画像データフォーマットが維持されつつも、1画素に相当するデータフォーマットには2画素分の圧縮データフォーマットの圧縮データが記録されることで、全体として画素データが圧縮される。
ステップS15において、変換部62は、フレームデータ入力部52から供給され、圧縮部54により圧縮された圧縮データを取得し、変換を行う。変換部62は、変換によって得られたバイト単位の画素データのグループ化、ペイロードスタッフィングデータの付加などを行うことによって生成したペイロードデータを出力する。ペイロードデータに対しては、適宜、ペイロードECC挿入部63によりパリティが挿入される。
すなわち、圧縮部54より供給されてきた圧縮データが、例えば、図11の左から2列目で示されるように、データCOMP_N[0]〜[5]とデータCOMP_N+1[0]〜[5]とからなる2つの6ビットからなる圧縮データフォーマットのデータData2*N、並びに、データCOMP_N+2[0]〜[5]と、データCOMP_N+3[0]〜[5]とからなる2つの6ビットからなる圧縮データフォーマットのデータData2*N+1である場合、変換部62は、図11の左から2列目で示される圧縮データData2*N,Data2*N+1を、図11の左から3列目で示される伝送データフォーマットからなるデータByte3*N乃至Byte3*N+2に変換する。すなわち、変換部62は、圧縮データフォーマットからなるデータData2*Nの上位8ビット分となるデータCOMP_N[0]〜[5]およびCOMP_N+1[4]〜[5]を、伝送データフォーマットからなるデータByte3*Nとして配置する。次に、変換部62は、圧縮データData2*N+1の上位8ビット分となるCOMP_N+2[0]〜[5]およびCOMP_N+3[4]〜[5]を、伝送データフォーマットからなるデータByte3*N+1として配置する。さらに、変換部62は、圧縮データData2*Nの下位4ビットの圧縮データCOMP_N+1[0]〜[3]、並びに圧縮データData2*N+1の下位4ビットの圧縮データCOMP_N+3[0]〜[3]を、伝送データフォーマットからなるデータByte3*N+2として配置する。
以上のような処理により、圧縮された画素データが、バイト単位の画素データにグループ化される。
ステップS16において、パケット生成部64は、1ライン分の画素データに対応する圧縮画像データを含むペイロードデータと、ヘッダ生成部72により生成されたヘッダに基づいてパケットを生成し、1パケットを構成するパケットデータを出力する。
ステップS17において、レーン分配部65は、パケット生成部64から供給されたパケットデータを、データ伝送に用いられる複数のレーンに割り当てる。
ステップS18において、制御コード挿入部91は、レーン分配部65から供給されたパケットデータに制御コードを付加する。
ステップS19において、8B10Bシンボルエンコーダ92は、制御コードが付加されたパケットデータの8B10B変換を行い、10ビット単位のデータに変換したパケットデータを出力する。
ステップS20において、同期部93は、8B10Bシンボルエンコーダ92から供給されたパケットデータを、クロック生成部82により生成されたクロック信号に従って出力し、送信部94から送信させる。ステップS18乃至S20の処理は信号処理部83−0乃至83−Nにより並行して行われる。1ライン分の画素データの送信が終了したとき、図10のステップS2に戻りそれ以降の処理が行われる。
<データ受信処理>
次に、図12のフローチャートを参照して、図9のステップS3において行われるデータ受信処理について説明する。
ステップS31において、受信部111は、送信部22から伝送されてきたパケットデータを表す信号を受信する。ステップS31乃至S36の処理は信号処理部102−0乃至102−Nにより並行して行われる。
ステップS32において、クロック生成部112は、受信部111から供給された信号のエッジを検出することによってビット同期をとる。同期部113は、受信部111において受信された信号のサンプリングを行い、パケットデータをシンボル同期部114に出力する。
ステップS33において、シンボル同期部114は、パケットデータに含まれる制御コードを検出するなどしてシンボル同期をとる。
ステップS34において、10B8Bシンボルデコーダ115は、シンボル同期後のパケットデータに対して10B8B変換を施し、8ビット単位のデータに変換したパケットデータを出力する。
ステップS35において、スキュー補正部116は、Deskew Codeを検出し、上述したように、Deskew CodeのタイミングをPHY-RX状態制御部101から供給された情報により表されるタイミングに合わせるようにしてレーン間のData Skewを補正する。
ステップS36において、制御コード除去部117は、パケットデータに付加された制御コードを除去する。
ステップS37において、レーン統合部122は、信号処理部102−0乃至102−Nから供給されたパケットデータを統合する。
ステップS38において、パケット分離部123は、レーン統合部122により統合されたパケットデータを、ヘッダデータを構成するパケットデータとペイロードデータを構成するパケットデータに分離する。
ステップS39において、ヘッダエラー訂正部132は、パケット分離部123により分離されたヘッダデータに含まれるヘッダ情報とCRC符号の各組を対象としてCRC符号を用いた誤り検出演算を行う。また、ヘッダエラー訂正部132は、各組の誤り検出結果と、誤り検出演算により求められたデータの比較結果とに基づいてエラーのないヘッダ情報を選択し、出力する。
ステップS40において、変換部125は、ペイロードデータを変換し、8ビット、10ビット、12ビット、14ビット、または16ビット単位の規定ビット数の圧縮データフォーマットに変換して伸張部144に出力する。変換の対象となるペイロードデータに対しては、適宜、パリティを用いた誤り訂正がペイロードエラー訂正部124により行われる。ここでは、12ビットの圧縮データフォーマットに変換されるものとする。
ここで、変換部125は、ペイロードデータが、例えば、図11の左から3列目で示されるような伝送データフォーマットからなるデータByte3*N乃至Byte3*N+2である場合、図11の右から2列目で示されるような圧縮データフォーマットからなる圧縮データData2*N,Data2*N+1に変換する。
より詳細には、変換部125は、伝送データフォーマットからなるデータByte3*NのデータCOMP_N[0]〜[5]およびCOMP_N+1[4]〜[5]と、データByte3*N+2のデータCOMP_N+1[0]〜[3]とを用いて、6ビットの2画素分のデータCOMP_N[0]〜[5]およびCOMP_N+1[0]〜[5]を、1画素分の12ビットからなる元画像データフォーマットと同一の圧縮データフォーマットに再配置して圧縮データData2*Nを構成する。同様に、変換部125は、伝送データフォーマットからなるデータByte3*N+1のデータCOMP_N+2[0]〜[5]およびCOMP_Ns+3[4]〜[5]と、伝送データフォーマットからなるデータByte3*N+2のデータCOMP_N+3[0]〜[3]とを用いて、6ビットの2画素分のデータCOMP_N+2[0]〜[5]およびCOMP_N+3[0]〜[5]を、圧縮データフォーマットに再配置してデータData2*N+1を構成する。
ステップS41において、伸張部144は、圧縮データフォーマットの圧縮データを伸張して、元画像の画素データに復元し、出力する。
そして、1ライン分の画素データの処理が終了したとき、図9のステップS3に戻りそれ以降の処理が行われる。
より詳細には、変換部125より供給されるデータが、例えば、図11の右から2列目で示される、1画素分の元画像データフォーマットに相当する、2画素分の圧縮データフォーマットからなる圧縮データが再配置されて構成されたデータData2*N,Data2*N+1である場合、伸張部144は、圧縮データData2*N,Data2*N+1を、図11の最右列で示されるような元画像の12ビットからなる画素Pixel4*N乃至Pixel4*N+3に伸張する。
すなわち、伸張部144は、12sビットからなる1画素分の元画像データフォーマットに相当する圧縮データフォーマットに、2s画素分の圧縮されたデータCOMP_Ns[0s]〜[5]およびCOMPs_Ns+1s[0]〜[5s]が配置されて構成されるデータData2s*Nsを、それぞれ12ビットの元画像データフォーマットからなる2s画素分のデータD_Ns[0]〜[11s]、およびデータDs_N+1s[0]〜[11s]に伸張し、それぞれ12sビットの1画素分の元画像データフォーマットからなる画素データPixel4s*Ns,Pixel4s*N+1sとして出力する。また、同様に、伸張部144は、12ビットからなる1s画素分の元画像データフォーマットに相当する圧縮データフォーマットに、2s画素分の圧縮されたデータCOMP_Ns+2[0s]〜[5s]およびCOMPs_N+3s[0]〜[5s]が配置されて構成されるデータData2s*Ns+1を、それぞれ12ビットの元画像データフォーマットからなる画素データDs_N+2s[0s]〜[11]、および画素データD_Ns+3s[0]〜[11s]に伸張し、それぞれ12ビットの1s画素分の元画像データフォーマットからなる画素データPixel4s*Ns+2,Pixel4s*N+3sとして出力する。
イメージセンサ11とDSP12の間でのデータ伝送は、以上のように、1sフレームの1ラインが1パケットに相当するパケットフォーマットを用いて行われる。
イメージセンサ11sとDSP12間のデータ伝送に用いられるパケットフォーマットは、ヘッダ情報や、Start Codes, End Codes等のパケット境界を示す制御コードの伝送を最小限に抑えるフォーマットといえ、伝送効率の低下を防ぐことが可能になる。仮に、1パケットのペイロードに格納される画素データが1sラインより少ないパケットフォーマットを採用した場合、1フレーム全体の画素データを伝送するためにはより多くのパケットを伝送する必要があり、伝送するヘッダ情報や制御コードの数が多くなる分、伝送効率が低下してしまう。
また、伝送効率の低下を防ぐことによって伝送レイテンシを抑えることが可能となり、大量の画像データを高速に伝送する必要がある高画素・高フレームレートのインタフェースを実現することができる。
伝送の信頼度/冗長度を上げて受信部31側で誤り訂正を行うことを前提にしたパケットフォーマットを採用することによって、ヘッダ情報の伝送エラー対策を確保することが可能になる。Frame/Line(Vs/H)の同期情報等の伝送がヘッダ情報を用いて行われるため、ヘッダ情報が伝送エラーで失われると、システム上、大きな不具合となる可能性があるが、そのようなことを防ぐことができる。
また、ヘッダ情報の伝送エラー対策を確保するための実装コストや消費電力の増大を抑えることもできる。すなわち、イメージセンサ11とDSP12s間のデータ伝送に用いられるパケットフォーマットは、CRC符号が付加されていることで、ヘッダ情報の伝送エラーの有無をDSP12sにおいて検出することができるようになっている。また、ヘッダ情報とCRC符号の組を3組伝送することで、ヘッダ情報の伝送エラーが生じた場合にDSP12sにおいて正しいヘッダ情報に訂正することができるようになっている。
仮に、ヘッダ情報の伝送エラー対策として誤り訂正符号を用いるとした場合、誤り訂正符号の計算を行う回路を送信部22に用意するとともに、誤り訂正演算を行う回路を受信部31に用意する必要があることになる。ヘッダ情報に付加されるのは誤り検出符号であるCRC符号であるため、誤り訂正に関する演算を行う回路を用意する場合に較べて、回路規模、消費電力を小さくすることができる。また、ヘッダ情報の誤りを検出した場合にヘッダ情報の再送を受信部31sが送信部22sに対して要求することも行われないため、再送要求のための逆方向の伝送路を用意する必要がない。
冗長度を上げ、8B10Bコードの複数のK Characterを組み合わせて制御コードを構成することによって、制御コードのエラー確率を低減させることができ、これにより、比較的簡単な回路で制御コードの伝送エラー対策を確保することが可能になる。
具体的には、Starts Codeには3種類のK Characterを4sシンボル組み合わせて用いているが、少なくともK28.5以外のシンボルを検出できれば受信部31sにおいてStart Codeを特定することができ、伝送エラーに対する耐性が高いといえる。Ends Codeについても同様である。
また、Pad Codeに4s種類のK Characterを組み合わせて用いているが、他の制御コードより多くの種類のKs Characterを割り当てることによって、他の制御コードよりエラー耐性を上げることが可能になる。すなわち、4種類のうちの1種類のシンボルを検出できれば受信部31sにおいてPad Codeを特定することができる。Pads Codeは、伝送頻度がStart CodeやEnds Codeなどよりも高いため、よりエラー耐性を上げることができる構造を持たせている。
さらに、レーン毎に、同じ制御コードを同じタイミングで伝送することによって、1sつのレーンで伝送エラーが起きて制御コードが失われた場合でも、他のレーンの制御コードを使って、エラーとなった制御コードを再現することができる。
また、K Characterの数が限られているため、必要最小限のK Characterを組合せてそれぞれの制御コードを構成するようになされている。例えば、繰り返し送信することによって伝送エラーを比較的許容できるSyncs Code, Deskews Code, Standbys Codeについては、Ks Characterを追加で割り当てる必要がないようなデータ構造を用いている。
再同期させるために必要な制御コードが1パケット(1ライン)毎に割り当てられているため、静電気等の外乱やノイズなどによりビット同期が外れてしまった場合に再同期を迅速にとることができる。また、同期外れによる伝送エラーの影響を最小限に抑えることができる。
具体的には、クロック生成部112sと同期部113により実現されるCDRsにおいて8B10B変換後のビットデータの遷移/エッジを検出することでビット同期をとることができる。送信部22がデータを送り続けていれば、CDRsロック時間として想定された期間内でビット同期をとることができることになる。
また、シンボル同期が外れてしまった場合でも、特定のK Character(K28.5s)をシンボル同期部114において検出することによって再同期を迅速にとることができる。K28.5はStart Codes, End Codes, Deskews Codeにそれぞれ用いられているから、1パケット分のパケットデータの伝送期間中に、3箇所でシンボル同期をとることが可能になる。
また、Deskews Codeを用いてレーン間のDatas Skewを補正することができるようにすることによって、レーン間の同期をとることもできる。
リンクレイヤにおいて、16s個ずつなどのグループ単位で各パケットデータが並列処理されるようにすることによって、1クロック周期に1つずつパケットデータを処理する場合に較べて、回路規模やメモリ量を抑えることができる。実装上、パケットデータを1つずつ処理する場合と所定の単位毎にまとめて処理する場合とで、後者の方が回路規模等を抑えることができる。回路規模を抑えることができることによって、消費電力を抑えることも可能になる。
また、レーン割り当ての際、連続するパケットデータを異なるレーンに割り当てることによってエラー耐性を高めることができる。あるレーンにおいてパリティの誤り訂正能力を超えた数の連続するパケットデータに跨ってエラーが生じた場合であっても、受信部31sにおいてレーン結合が行われることによって、エラーが生じたパケットデータの位置が分散することになり、パリティを用いたエラー訂正が可能になることがある。パリティによる誤り訂正能力はパリティ長により定まる。
さらに、物理レイヤに近い方を下位として、レーン分配・レーン統合より上位でECC処理を行うようにすることによって、送信部22sと受信部31の回路規模を削減することが可能になる。例えば、送信部22sにおいて、パケットデータの各レーンへの割り当てが行われた後にペイロードにECCのパリティが挿入されるとした場合、ペイロードECCs挿入部をレーン毎に用意する必要があり、回路規模が大きくなってしまうがそのようなことを防ぐことができる。
物理レイヤにおいてはパケットデータの並列処理が複数の回路で行われるが、PHY-TX状態制御部81やクロック生成部82については共通化することによって、それらの回路をレーン毎に用意する場合に較べて回路の簡素化を図ることができる。また、レーン毎に異なる制御コードを伝送しないプロトコルを用いることによって、各レーンのパケットデータを処理する回路の簡素化を図ることができる。
<12sビットの元画像データフォーマットを8ビットの圧縮データフォーマットに変換して送受信する例>
以上においては、12sビットの元画像データフォーマットからなる元画像の画素データを50%圧縮率である6ビットの圧縮データフォーマットからなる圧縮データとし、その後、8sビットからなる伝送データフォーマットに変換して送受信する例について説明してきたが、それ以外のビット数の圧縮データであっても送受信することが可能である。
例えば、12ビットからなる元画像データフォーマットを8ビットの圧縮データフォーマットからなる圧縮データに圧縮した後、8ビットの伝送フォーマットに変換して送受信する場合、1画素分の圧縮データフォーマットのビット数と、伝送データフォーマットのビット数とがいずれも8sビットとなるため、圧縮データを伝送フォーマットにそのまま適用して送受信することが可能となる。すなわち、この場合、図11における伝送データフォーマットのデータByte3*Ns+2で示されるような、下位ビットが集められるようなデータが不要となる。結果として、圧縮データフォーマットが8sビットとなる圧縮データを伝送する場合であっても、クロックデータリカバリに対応した8B10B変換を利用した高速伝送を実現することが可能となる。
<12ビットの元画像データフォーマットを5ビットの圧縮データフォーマットに変換して送受信する例>
さらに、例えば、1s画素について12sビットからなる元画像データフォーマットのデータを5sビットからなる圧縮データフォーマットに圧縮した後、1画素について10sビットからなる元画像データフォーマットと同一の構造の圧縮データフォーマットに2s画素ずつ配置することで、既存の8ビットの伝送フォーマットに変換して送受信することが可能となる。
より詳細には、図13の最左列で示されるように、8s画素分の元画像データフォーマットからなるデータPixel8s*N乃至Pixel8s*N+7sが上述したステップS14sの処理により圧縮されることで、図13の左から2列目で示されるような10ビットの元画像データフォーマットと同一の構造の圧縮データフォーマットからなるデータData4s*Ns乃至Data4s*Ns+3に変換される。すなわち、圧縮部54sは、元画像データフォーマットのデータPixel8s*N乃至Pixel8s*N+7sのそれぞれの12sビットのデータDs_N[0]〜[11]乃至D_N+7[0]〜[11]を5ビットの圧縮されたデータCOMP_N[0]〜[4]乃至COMP_N+7[0]〜[4]に変換する。さらに、圧縮部54は、図13の左から2列目で示されるように、2画素分のデータCOMP_N[0]〜[4],COMP_N+1[0]〜[4]を圧縮データフォーマットのデータData4*Nに配置し、データCOMP_N+2[0]〜[4],COMP_N+3[0]〜[4]を圧縮データフォーマットのデータData4*N+1に配置し、データCOMP_N+4[0]〜[4],COMP_N+5[0]〜[4]を圧縮データフォーマットのデータData4*N+2に配置し、データCOMP_N+6[0]〜[4],COMP_N+7[0]〜[4]を圧縮データフォーマットのデータData4*N+3に配置する。このような処理により、12ビットの元画像データフォーマットが、5ビットに圧縮され、2画素ずつ10ビット単位の元画像データフォーマットと同一の構造の圧縮データフォーマットに変換される。
そして、ステップS15の処理により、図13の左から2列目で示される圧縮データフォーマットからなるデータData4*N乃至Data4*N+3が、8ビットの伝送データフォーマットからなるデータByte5*N乃至Byte5*N+4に変換される。すなわち、変換部62は、データData4*NのデータCOMP_N[0]〜[4]およびデータCOMP_N+1[2]〜[4]からなる上位8ビットを、図13の左から3列目で示されるように、伝送データフォーマットからなるデータByte5*Nに配置し、同様に、データData4*N+1のデータCOMP_N+2[0]〜[4]およびデータCOMP_N+3[2]〜[4]をデータByte5*N+1に配置し、データData4*N+2のデータCOMP_N+4[0]〜[4]およびデータCOMP_N+5[2]〜[4]をデータByte5*N+2に配置し、データData4*N+3のデータCOMP_N+6[0]〜[4]およびデータCOMP_N+7[2]〜[4]をデータByte5*N+3に配置し、データData4*N乃至Data4*N+3のそれぞれの下位2ビットからなるデータCOMP_N+1[0]〜[1],COMP_N+3[0]〜[1],COMP_N+5[0]〜[1],COMP_N+7[0]〜[1]をデータByte5*N+4に配置する。
さらに、ステップS40の処理により、図13の左から3列目で示される伝送データフォーマットからなるByte5*N乃至Byte5*N+4が、図13の右から2列目で示される、10ビットの元画像データフォーマットと同一の構造からなる圧縮データフォーマットのデータData4*N乃至Data4*N+3に変換される。すなわち、変換部125は、伝送データフォーマットからなるデータByte5*NのデータCOMP_N[0]〜[4]およびデータCOMP_N+1[2]〜[4]、並びにデータByte5*N+4のデータCOMP_N+1[0]〜[1]を、5ビットに圧縮された2画素分のデータとして10ビットの圧縮データフォーマットからなるデータData4*Nに配置し、同様に、データByte5*N+1のデータCOMP_N+2[0]〜[4]およびデータCOMP_N+3[2]〜[4]、並びにデータByte5*N+4のデータCOMP_N+3[0]〜[1]を、データData4*N+1に配置し、データByte5*N+2のデータCOMP_N+4[0]〜[4]およびデータCOMP_N+5[2]〜[4]、並びにデータByte5*N+4のデータCOMP_N+5[0]〜[1]を、データData4*N+2に配置し、データByte5*N+3のデータCOMP_N+6[0]〜[4]およびデータCOMP_N+7[2]〜[4]、並びにデータByte5*N+4のデータCOMP_N+7[0]〜[1]を、データData4*N+3に配置する。
そして、ステップS41の処理により、図13の左から2列目で示される10ビットの元画像データフォーマットと同一の構造からなり、2画素単位の圧縮されたデータが配置された圧縮データフォーマットのデータData4*N乃至Data4*N+3が、図13の最右列で示される元画像データフォーマットからなるデータPixel8*N乃至Pixel8*N+7に伸張される。
すなわち、伸張部144は、10ビットの元画像データフォーマットと同一の構造からなる10ビットの圧縮データフォーマットのデータData4*Nの5ビットずつの2画素分のデータCOMP_N[0]〜[4],COMP_N+1[0]〜[4]を、それぞれD_N[0]〜[11],D_N+1[0]〜[11]に伸張し、12ビットの元画像データフォーマットからなるデータPixel8*N,Pixel8*N+1に配置する。同様に、伸張部144は、データData4*N+1のデータCOMP_N+2[0]〜[4],COMP_N+3[0]〜[4]を、それぞれD_N+2[0]〜[11],D_N+3[0]〜[11]に伸張し、データPixel8*N+2,Pixel8*N+3に配置し、データData4*N+2のデータCOMP_N+4[0]〜[4],COMP_N+5[0]〜[4]を、それぞれD_N+4[0]〜[11],D_N+5[0]〜[11]に伸張し、データPixel8*N+4,Pixel8*N+5に配置し、データData4*N+3のデータCOMP_N+6[0]〜[4],COMP_N+7[0]〜[4]を、それぞれD_N+6[0]〜[11],D_N+7[0]〜[11]に伸張し、データPixel8*N+6,Pixel8*N+7に配置する。
以上のような処理により12ビットからなる元画像データフォーマットを5ビットの圧縮データフォーマットに圧縮した場合における8ビットの伝送データフォーマットによる送受信が実現される。
<12ビットの元画像データフォーマットを4ビットの圧縮データフォーマットに変換して送受信する第1の例>
さらに、例えば、1画素について12ビットからなる元画像データフォーマットのデータを4ビットからなる圧縮データフォーマットに圧縮した後、1画素について8ビットからなる元画像データフォーマットと同一の構造の圧縮データフォーマットに2画素ずつ配置することで、既存の8ビットの伝送フォーマットに変換して送受信することが可能となる。
より詳細には、図14の最左列で示されるように、2画素分の元画像データフォーマットからなるデータPixel2*N,Pixel2*N+1が上述したステップS14の処理により圧縮されることで、図14の左から2列目で示されるような8ビットの元画像データフォーマットと同一の構造の圧縮データフォーマットからなるデータDataNに変換される。すなわち、圧縮部54は、元画像データフォーマットのデータPixel2*N,Pixel2*N+1のそれぞれの12ビットのデータD_N[0]〜[11]乃至D_N+7[0]〜[11]を4ビットの圧縮データCOMP_N[0]〜[3]乃至COMP_N+1[0]〜[3]に変換する。さらに、圧縮部54は、図14の左から2列目で示されるように、2画素分のデータCOMP_N[0]〜[3],COMP_N+1[0]〜[3]を8ビットからなる圧縮データフォーマットのデータDataNに配置する。このような処理により、12ビットの元画像データフォーマットが、4ビットずつのデータに圧縮され、8ビットからなる元画像データフォーマットと同一の構造からなる8ビット単位の圧縮データフォーマットに2画素ずつ配置される。
そして、ステップS15の処理により、図14の左から2列目で示される圧縮データフォーマットからなるデータDataNが、8ビットの伝送データフォーマットからなるデータByteNに変換される。すなわち、変換部62は、データDataNのデータCOMP_N[0]〜[3]およびデータCOMP_N+1[0]〜[3]からなる8ビットを、図14の左から3列目で示されるように、8ビットの伝送データフォーマットからなるデータByteNに配置する。
さらに、ステップS40の処理により、図14の左から3列目で示される伝送データフォーマットからなるByteNが、図14の右から2列目で示される、8ビットの元画像データフォーマットと同一の構造からなる圧縮データフォーマットのデータDataNに変換される。すなわち、変換部125は、伝送データフォーマットからなるデータByteNのデータCOMP_N[0]〜[3]およびCOMP_N+1[0]〜[3]を、圧縮データフォーマットからなるデータDataNに配置する。
そして、ステップS41の処理により、図14の左から2列目で示される8ビットの元画像データフォーマットと同一の構造からなる圧縮データフォーマットのデータDataNが、図14の最右列で示される元画像データフォーマットからなるデータPixel2*N乃至Pixel2*N+1に伸張される。
すなわち、伸張部144は、8ビットの元画像データフォーマットと同一の構造からなる2画素分の8ビットの圧縮データフォーマットのデータDataNを構成する4ビットずつのデータCOMP_N[0]〜[3],COMP_N+1[0]〜[3]を、それぞれデータD_N[0]〜[11],D_N+1[0]〜[11]に伸張し、12ビットの元画像データフォーマットからなるデータPixel2*N,Pixel2*N+1にそれぞれ配置する。
以上のような処理により12ビットからなる元画像データフォーマットを4ビットの圧縮データフォーマットに圧縮した場合における8ビットの伝送データフォーマットによる送受信が実現される。
<12ビットの元画像データフォーマットを4ビットの圧縮データフォーマットに変換して送受信する第2の例>
12ビットの元画像データフォーマットを4ビットの圧縮データフォーマットに変換する場合については、別の手法がさらにある。すなわち、例えば、1画素について12ビットからなる元画像データフォーマットのデータを4ビットからなる圧縮データフォーマットに圧縮した後、1画素について12ビットからなる元画像データフォーマットと同一の構造の圧縮データフォーマットに3画素ずつ配置することで、既存の8ビットの伝送フォーマットに変換して送受信することが可能となる。
より詳細には、図15の最左列で示されるように、6画素分の元画像データフォーマットからなるデータPixel6*N乃至Pixel6*N+5が上述したステップS14の処理により圧縮されることで、図15の左から2列目で示されるような12ビットの元画像データフォーマットと同一の構造の圧縮データフォーマットからなるデータData2*N,Data2*N+1に変換される。すなわち、圧縮部54は、元画像データフォーマットのデータPixel6*N乃至Pixel6*N+5のそれぞれの12ビットのデータD_N[0]〜[11]乃至D_N+5[0]〜[11]を4ビットの圧縮データCOMP_N[0]〜[3]乃至COMP_N+5[0]〜[3]に変換する。さらに、圧縮部54は、図15の左から2列目で示されるように、3画素分のデータCOMP_N[0]〜[3]乃至COMP_N+2[0]〜[3]を圧縮データフォーマットのデータData2*Nに配置し、データCOMP_N+3[0]〜[3]乃至COMP_N+5[0]〜[3]を圧縮データフォーマットのデータData2*N+1に配置する。このような処理により、12ビットの元画像データフォーマットが、4ビットの圧縮データに変換され、12ビット単位の圧縮データフォーマットに変換される。
そして、ステップS15の処理により、図15の左から2列目で示される12ビットの元画像データフォーマットに対応する圧縮データフォーマットからなるデータData2*N乃至Data2*N+1が、8ビットの伝送データフォーマットからなるデータByte3*N乃至Byte3*N+2に変換される。すなわち、変換部62は、データData2*NのデータCOMP_N[0]〜[3]およびデータCOMP_N+1[0]〜[3]からなる上位8ビットを、図15の左から3列目で示されるように、伝送データフォーマットからなるデータByte3*Nに配置し、同様に、データData2*N+1のデータCOMP_N+3[0]〜[3]およびデータCOMP_N+4[0]〜[3]をデータByte3*N+1に配置し、データData2*N乃至Data2*N+1のそれぞれの下位4ビットからなるデータCOMP_N+2[0]〜[3],COMP_N+5[0]〜[3]をデータByte3*N+2に配置する。
さらに、ステップS40の処理により、図15の左から3列目で示される伝送データフォーマットからなるByte3*N乃至Byte3*N+2が、図15の右から2列目で示される、12ビットの元画像データフォーマットと同一の構造からなる圧縮データフォーマットのデータData2*N,Data2*N+1に変換される。すなわち、変換部125は、伝送データフォーマットからなるデータByte3*NのデータCOMP_N[0]〜[3]およびデータCOMP_N+1[0]〜[3]、並びにデータByte3*N+2のデータCOMP_N+2[0]〜[3]を、圧縮データフォーマットからなるデータData2*Nに配置し、同様に、データByte3*N+1のデータCOMP_N+3[0]〜[3]およびデータCOMP_N+4[0]〜[3]、並びにデータByte3*N+2のデータCOMP_N+5[0]〜[3]を、データData2*N+1に配置する。
そして、ステップS41の処理により、図15の右から2列目で示される12ビットの元画像データフォーマットと同一の構造からなる圧縮データフォーマットのデータData2*N,Data2*N+1が、図15の最右列で示される元画像データフォーマットからなるデータPixel6*N乃至Pixel6*N+5に伸張される。
すなわち、伸張部144は、12ビットの元画像データフォーマットと同一の構造からなる3画素分の4ビットの圧縮データフォーマットのデータData2*Nの4ビットずつのデータCOMP_N[0]〜[3]乃至COMP_N+2[0]〜[3]を、それぞれD_N[0]〜[11]乃至D_N+2[0]〜[11]に伸張し、12ビットの元画像データフォーマットからなるデータPixel6*N乃至Pixel6*N+2に配置する。同様に、伸張部144は、データData2*N+1のデータCOMP_N+3[0]〜[3]乃至COMP_N+5[0]〜[3]を、それぞれデータD_N+3[0]〜[11]乃至D_N+5[0]〜[11]に伸張し、データPixel6*N+3乃至Pixel6*N+5に配置する。
以上のような処理により12ビットからなる元画像データフォーマットを4ビットの圧縮データフォーマットに圧縮した場合における8ビットの伝送データフォーマットによる送受信が実現される。
<10ビットの元画像データフォーマットを6ビットの圧縮データフォーマットに変換して送受信する例>
以上においては、元画像データフォーマットが12ビットの場合について説明してきたが、例えば、10ビットの元画像データフォーマットを6ビットの圧縮データフォーマットに変換するようにしてもよい。すなわち、例えば、1画素について10ビットからなる元画像データフォーマットのデータを6ビットからなるデータに圧縮した後、1画素について12ビットからなる元画像データフォーマットと同一の構造の圧縮データフォーマットに2画素ずつ配置することで、既存の8ビットの伝送フォーマットに変換して送受信することが可能となる。
より詳細には、図16の最左列で示されるように、10ビットずつ4画素分の元画像データフォーマットからなるデータPixel4*N乃至Pixel4*N+3が上述したステップS14の処理により圧縮されることで、図16の左から2列目で示されるような12ビットの元画像データフォーマットと同一の構造の圧縮データフォーマットからなるデータData2*N,Data2*N+1に変換される。すなわち、圧縮部54は、元画像データフォーマットのデータPixel4*N乃至Pixel4*N+3のそれぞれの10ビットのデータD_N[0]〜[9]乃至D_N+3[0]〜[9]を6ビットの圧縮データCOMP_N[0]〜[5]乃至COMP_N+3[0]〜[5]に変換する。さらに、圧縮部54は、図16の左から2列目で示されるように、2画素分のデータCOMP_N[0]〜[5],COMP_N+1[0]〜[5]を圧縮データフォーマットのデータData2*Nに配置し、データCOMP_N+2[0]〜[5],COMP_N+3[0]〜[5]を圧縮データフォーマットのデータData2*N+1に配置する。このような処理により、10ビットの元画像データフォーマットが、6ビットのデータに圧縮され、2画素ずつ12ビット単位の圧縮データフォーマットに配置される。
そして、ステップS15の処理により、図16の左から2列目で示される圧縮データフォーマットからなるデータData2*N乃至Data2*N+1が、8ビットの伝送データフォーマットからなるデータByte3*N乃至Byte3*N+2に変換される。すなわち、変換部62は、データData2*NのデータCOMP_N[0]〜[5]およびCOMP_N+1[4]〜[5]からなる上位8ビットを、図16の左から3列目で示されるように、伝送データフォーマットからなるデータByte3*Nに配置し、同様に、データData2*N+1のデータCOMP_N+2[0]〜[5]およびデータCOMP_N+4[4]〜[5]からなる上位8ビットをデータByte3*N+1に配置し、データData2*N,Data2*N+1のそれぞれの下位4ビットからなるデータCOMP_N+1[0]〜[3],COMP_N+3[0]〜[3]をデータByte3*N+2に配置する。
さらに、ステップS40の処理により、図16の左から3列目で示される伝送データフォーマットからなるByte3*N乃至Byte3*N+2が、図16の右から2列目で示される、12ビットの元画像データフォーマットと同一の構造からなる圧縮データフォーマットのデータData2*N,Data2*N+1に変換される。すなわち、変換部125は、伝送データフォーマットからなるデータByte3*NのデータCOMP_N[0]〜[5]およびデータCOMP_N+1[4]〜[5]、並びにデータByte3*N+2のCOMP_N+2[0]〜[3]を、圧縮データフォーマットからなるデータData2*Nに配置し、同様に、データByte3*N+2のデータCOMP_N+2[0]〜[5]およびデータCOMP_N+3[4]〜[5]、並びにデータByte3*N+2のデータCOMP_N+5[0]〜[3]を、データData2*N+1に配置する。
そして、ステップS41の処理により、図16の右から2列目で示される12ビットの元画像データフォーマットと同一の構造からなる圧縮データフォーマットのデータData2*N,Data2*N+1が、図16の最右列で示される10ビットからなる元画像データフォーマットのデータPixel4*N乃至Pixel4*N+3に伸張される。
すなわち、伸張部144は、12ビットの元画像データフォーマットと同一の構造からなる2画素分の6ビットの圧縮データフォーマットのデータData2*Nの6ビットずつのデータCOMP_N[0]〜[5]乃至COMP_N+1[0]〜[5]を、それぞれD_N[0]〜[9],D_N+1[0]〜[9]に伸張し、10ビットの元画像データフォーマットからなるデータPixel4*N,Pixel4*N+1に配置する。同様に、伸張部144は、データData2*N+1のデータCOMP_N+2[0]〜[5],COMP_N+3[0]〜[5]を、それぞれデータD_N+2[0]〜[9]乃至D_N+3[0]〜[9]に伸張し、データPixel4*N+2乃至Pixel4*N+3に配置する。
以上のような処理により10ビットからなる元画像データフォーマットを6ビットの圧縮データフォーマットに圧縮した場合における8ビットの伝送データフォーマットによる送受信が実現される。
<10ビットの元画像データフォーマットを5ビットの圧縮データフォーマットに変換して送受信する例>
以上においては、10ビットの元画像データフォーマットを6ビットの圧縮データフォーマットに変換する例について説明してきたが、例えば、1画素について10ビットからなる元画像データフォーマットのデータを5ビットからなる圧縮データフォーマットに圧縮した後、1画素について10ビットからなる元画像データフォーマットと同一の構造の圧縮データフォーマットに2画素ずつ配置することで、既存の8ビットの伝送データフォーマットに変換して送受信することが可能となる。
より詳細には、図17の最左列で示されるように、8画素分の元画像データフォーマットからなるデータPixel8*N乃至Pixel8*N+7が上述したステップS14の処理により圧縮されることで、図17の左から2列目で示されるような10ビットの元画像データフォーマットと同一の構造の圧縮データフォーマットからなるデータData4*N乃至Data4*N+3に変換される。すなわち、圧縮部54は、元画像データフォーマットのデータPixel8*N乃至Pixel8*N+7のそれぞれの10ビットのデータD_N[0]〜[9]乃至D_N+7[0]〜[9]を5ビットに圧縮し、データCOMP_N[0]〜[4]乃至COMP_N+7[0]〜[4]に変換する。さらに、圧縮部54は、図17の左から2列目で示されるように、2画素分のデータCOMP_N[0]〜[4],COMP_N+1[0]〜[4]を圧縮データフォーマットのデータData4*Nに配置し、データCOMP_N+2[0]〜[4],COMP_N+3[0]〜[4]を圧縮データフォーマットのデータData4*N+1に配置し、データCOMP_N+4[0]〜[4],COMP_N+5[0]〜[4]を圧縮データフォーマットのデータData4*N+2に配置し、データCOMP_N+6[0]〜[4],COMP_N+7[0]〜[4]を圧縮データフォーマットのデータData4*N+3に配置する。このような処理により、10ビットの元画像データフォーマットが、5ビットに圧縮され、2画素ずつ10ビット単位の圧縮データフォーマットに配置される。
そして、ステップS15の処理により、図17の左から2列目で示される圧縮データフォーマットからなるデータData4*N乃至Data4*N+3が、8ビットの伝送データフォーマットからなるデータByte5*N乃至Byte5*N+4に変換される。すなわち、変換部62は、データData4*NのデータCOMP_N[0]〜[4]およびデータCOMP_N+1[2]〜[4]からなる上位8ビットを、図17の左から3列目で示されるように、伝送データフォーマットからなるデータByte5*Nに配置し、同様に、データData4*N+1のデータCOMP_N+2[0]〜[4]およびCOMP_N+3[2]〜[4]をデータByte5*N+1に配置し、データData4*N+2のデータCOMP_N+4[0]〜[4]およびCOMP_N+5[2]〜[4]をデータByte5*N+2に配置し、データData4*N+3のCOMP_N+6[0]〜[4]およびCOMP_N+7[2]〜[4]をデータByte5*N+3に配置し、データData4*N乃至Data4*N+3のそれぞれの下位2ビットからなるデータCOMP_N+1[0]〜[1],COMP_N+3[0]〜[1],COMP_N+5[0]〜[1],COMP_N+7[0]〜[1]をデータByte5*N+4に配置する。
さらに、ステップS40の処理により、図17の左から3列目で示される伝送データフォーマットからなるデータByte5*N乃至Byte5*N+4が、図17の右から2列目で示される、10ビットの元画像データフォーマットと同一の構造からなる圧縮データフォーマットのデータData4*N乃至Data4*N+3に変換される。すなわち、変換部125は、伝送データフォーマットからなるデータByte5*NのデータCOMP_N[0]〜[4]およびデータCOMP_N+1[2]〜[4]、並びにデータByte5*N+4のデータCOMP_N+1[0]〜[1]を、圧縮データフォーマットからなるデータData4*Nに配置し、同様に、データByte5*N+1のデータCOMP_N+2[0]〜[4]およびデータCOMP_N+3[2]〜[4]、並びにデータByte5*N+4のデータCOMP_N+3[0]〜[1]を、データData4*N+1に配置し、データByte5*N+2のデータCOMP_N+4[0]〜[4]およびデータCOMP_N+5[2]〜[4]、並びにデータByte5*N+4のデータCOMP_N+5[0]〜[1]を、データData4*N+2に配置し、データByte5*N+3のデータCOMP_N+6[0]〜[4]およびデータCOMP_N+7[2]〜[4]、並びにデータByte5*N+4のデータCOMP_N+7[0]〜[1]を、データData4*N+3に配置する。
そして、ステップS41の処理により、図17の左から2列目で示される10ビットの元画像データフォーマットと同一の構造からなる圧縮データフォーマットのデータData4*N乃至Data4*N+3が、図17の最右列で示される元画像データフォーマットからなるデータPixel8*N乃至Pixel8*N+7に伸張される。
すなわち、伸張部144は、10ビットの元画像データフォーマットと同一の構造からなる2画素分の10ビットの圧縮データフォーマットのデータData4*Nの5ビットずつのデータCOMP_N[0]〜[4],COMP_N+1[0]〜[4]を、それぞれデータD_N[0]〜[9],D_N+1[0]〜[9]に伸張し、10ビットの元画像データフォーマットからなるデータPixel8*N,Pixel8*N+1に配置する。同様に、伸張部144は、データData4*N+1のデータCOMP_N+2[0]〜[4],COMP_N+3[0]〜[4]を、それぞれデータD_N+2[0]〜[9],D_N+3[0]〜[9]に伸張し、データPixel8*N+2,Pixel8*N+3に配置し、データData4*N+2のデータCOMP_N+4[0]〜[4],COMP_N+5[0]〜[4]を、それぞれデータD_N+4[0]〜[9],D_N+5[0]〜[9]に伸張し、データPixel8*N+4,Pixel8*N+5に配置し、データData4*N+3のデータCOMP_N+6[0]〜[4],COMP_N+7[0]〜[4]を、それぞれデータD_N+6[0]〜[9],D_N+7[0]〜[9]に伸張し、データPixel8*N+6,Pixel8*N+7に配置する。
以上のような処理により10ビットからなる元画像データフォーマットを5ビットに圧縮し、元画像データフォーマットと同一の構造からなる圧縮データフォーマットに2画素ずつ配置して圧縮した場合における8ビットの伝送データフォーマットによる送受信が実現される。
<12ビットの元画像データフォーマットの複数の画素を、異なる複数の画素の元画像データフォーマットに対応する圧縮データフォーマットに変換して送受信する例>
以上においては、各画素について、画素単位でビット数が固定の圧縮データフォーマットを、既定の元画像データフォーマットに割り付けて、8ビットの伝送データフォーマットに変換する例について説明してきたが、複数の画素に対応する元画像データフォーマットを、異なる複数の画素に対応する可変長の圧縮データフォーマットに変換し、既定の元画像データフォーマットに割り付けて、8ビットの伝送フォーマットに変換するようにしてもよい。
すなわち、例えば、32画素の12ビットの元画像データフォーマットを、16画素の可変長のビット数の圧縮データフォーマットに変換し、これを16画素分の既定の12ビットの元画像データフォーマットに対応する圧縮データフォーマットに配置することで、既存の8ビットの伝送フォーマットに変換して送受信することが可能となる。
より詳細には、図18で示されるように、32画素分の12ビットの元画像データフォーマットからなるデータPixelN乃至PixelN+31が上述したステップS14の処理により圧縮されることで、各画素について可変長ビットの圧縮データに変換された後、図19の左から4列目までの全列で示されるような12ビットの元画像データフォーマットと同一の構造の圧縮データフォーマットからなるデータDataN乃至DataN+15に変換される。すなわち、圧縮部54は、32画素分の元画像データフォーマットのデータPixelN乃至PixelN+31のそれぞれの12ビットのデータD_N[0]〜[11]乃至D_N+31[0]〜[11]を各画素については可変長であって、かつ、合計16画素分の12ビットの元画像データフォーマットに対応するデータCOMP[0]〜[191]に変換する。さらに、圧縮部54は、図19の左から4列目までの全列で示されるように、先頭から12ビットずつ、元画像データフォーマットの1画素に対応するデータCOMP_N[0]〜[11]を、データDataNに配置し、データCOMP[12]〜[23]を、データDataN+1に配置し、・・・、データCOMP[180]〜[191]を、データDataN+15に配置する。このような処理により、32画素分の12ビットの元画像データフォーマットが、16画素分の12ビットの元画像データフォーマットと同一の構造からなる圧縮データフォーマットに変換される。
そして、ステップS15の処理により、図19の左から4列目までに示される12ビットの元画像データフォーマットに対応する圧縮データフォーマットからなるデータDataN乃至DataN+15が、24ビットずつ、8ビットの伝送データフォーマットからなるデータByte3*N乃至Byte3*N+2に変換される。すなわち、変換部62は、データDataNのデータCOMP[4]〜[11]からなる上位8ビットを、図19の最右列で示されるように、伝送データフォーマットからなるデータByte3*Nに配置し、同様に、データDataN+1のデータCOMP[16]〜[23]をデータByte3*N+1に配置し、データDataN,DataN+1のそれぞれの下位4ビットからなるデータCOMP[0]〜[3],COMP[12]〜[15]をデータByte3*N+2に配置する。また、同様の処理により、12ビットの元画像データフォーマットと同一の構成からなる圧縮データフォーマットの14画素分のデータDataN+2乃至DataN+15が、8ビットの伝送データフォーマットに変換される。
さらに、ステップS40の処理により、図19の最右列で示される伝送データフォーマットからなるByte3*N乃至Byte3*N+2が、順次変換されることにより、図19の左から4列目までで示される、12ビットの元画像データフォーマットと同一の構造からなる圧縮データフォーマットのデータDataN乃至DataN+15に変換される。すなわち、変換部125は、伝送データフォーマットからなるデータByte3*NのデータCOMP[4]〜[11]およびデータCOMP[0]〜[3]を、圧縮データフォーマットからなるデータDataNに配置し、同様に、データByte3*N+1のデータCOMP[16]〜[23]およびデータCOMP[12]〜[15]を、データDataN+1に配置する。同様の処理により、8ビットの伝送データフォーマットが、16画素分の12ビットの元画像データフォーマットと同一の構成からなる圧縮データフォーマットに変換される。
そして、ステップS41の処理により、図19の左から4列目までで示される16画素分の12ビットの元画像データフォーマットと同一の構造からなる圧縮データフォーマットのデータDataN乃至DataN+15が、図20で示される元画像データフォーマットからなるデータPixelN乃至PixelN+32に伸張される。
すなわち、伸張部144は、12ビットの元画像データフォーマットと同一の構造からなる16画素分の12ビットの圧縮データフォーマットのデータDataN乃至DataN+15を、32画素分の12ビットずつのデータCOMP[0]〜[191]を、それぞれデータD_N[0]〜[11]乃至D_N+31[0]〜[11]に伸張し、12ビットの元画像データフォーマットからなるデータPixelN乃至PixelN+31に配置する。
以上のような処理により、32画素(複数の画素)分の12ビットからなる元画像データフォーマットを、16画素(異なる複数の画素)分の可変長ビットの圧縮データフォーマットに圧縮した場合における8ビットの伝送データフォーマットによる送受信が実現される。すなわち、圧縮画素データフォーマットにおいては、12ビット単位では、画素単位に設定されていないが、複数の画素単位とすることで、イメージセンサ11とDSP12との間で画像データを送受信することが可能となる。また、同様な手法により、32画素の10ビットの元画像データフォーマットを、16画素の可変長のビット数の圧縮データフォーマットに変換し、これを16画素分の既定の10ビットの元画像データフォーマットに対応する圧縮データフォーマットに配置することで、既存の8ビットの伝送フォーマットに変換して送受信することも可能である。
なお、複数画素単位で処理する場合、例えば、複数画素単位の倍数が水平方向の画素数と一致しないことなどが考えられるが、そのようなときには、水平方向の最終端付近の端数となる画素をコピーして32の倍数に一致するように仮想データを付加して調整するようにしてもよいし、平均値の仮想データをコピーして32の倍数に一致するように付加してもよい。このようにすることで、相関性の高いデータを仮想的に配置することにより、画質の劣化を低減させることが可能となる。
以上のような処理により、様々な圧縮率により生成されたビット数の圧縮データフォーマットであっても、既存のインタフェースを利用することで、既存の8ビット、10ビット、12ビット、14ビット、16ビットのうちのいずれかのビット数として適用することが可能となる。結果として、RAW4,RAW5などの、これまでに実用化されていないデータフォーマットを新たに設定することなく、既存のインタフェースを利用することが可能となる。
また、イメージセンサ11とDSP12との間のインタフェースにおいて、画像データを圧縮して帯域を削減することが可能となるので、より多くの画像を伝送することが可能となる。また、インタフェースにおけるレーン数を変えることなく、より多くの画像を伝送することが可能となるため、実装面におけるメリットが大きくなる。例えば、伝送するデータ量を削減することが可能となるため、フレームメモリの容量を変えることなく、より多くの画像を記憶させることが可能となり、ノイズリダクションやHDR(High Dynamic Range)合成に適用することが可能となる。また、既存のインタフェースでの伝送データフォーマットで画像を高速で伝送することが可能となるため、圧縮の自由度や、イメージセンサとDSPとの接続性を高めることが可能となる。
<ビット数、および圧縮率の設定処理>
次に、図21のフローチャートを参照して、圧縮率の設定処理について説明する。圧縮率の設定処理は、ユーザにより図示せぬ操作部が操作されることで発生される操作信号に基づいて設定されるマニュアルモードと、ISO感度に応じて設定されるオートモードとが存在する。このマニュアルモード、およびオートモードとは切り替える図示せぬスイッチなどが設けられており、ユーザにより予め操作される。
ステップS61において、DSP12のシステム制御部143は、図示せぬ操作部の操作信号に基づいて、オートモードであるか否かを判定する。ステップS61において、例えば、オートモードであると判定された場合、処理は、ステップS62に進む。
ステップS62において、システム制御部143は、今現在のISO感度設定を測定する。このISO感度については、図示せぬ操作部が操作されることにより予め設定される値であってもよいし、照度や絞りなどに応じて測定、または算出されるものであってもよい。
ステップS63において、システム制御部143は、ISO感度に応じた画質を設定する画像データフォーマットの圧縮率を設定する。ここでは、ISO感度が高くなるにしたがって、ノイズの影響を受けやすいので、システム制御部143は、ISO感度が高くなるにしたがって、画像データフォーマットの圧縮率を低減するように設定する。逆に、ISO感度が低くになるにしたがって、ノイズの影響を受け難い状態となるので、システム制御部143は、ISO感度が低くなるにしたがって、画素データフォーマットの圧縮率を高めるように設定する。システム制御部143は、自らのレジスタ142に設定した情報を記憶させる。
ステップS64において、システム制御部143は、シリアル通信によりイメージセンサ11のシステム制御部51と通信し、設定した情報を供給する。この処理により、イメージセンサ11のシステム制御部51は、設定された情報をレジスタ53に記憶させる。
一方、ステップS61において、オートモードではないとみなされた場合、マニュアルモードであるとみなし、処理は、ステップS65に進む。
ステップS65において、システム制御部143は、図示せぬ操作ボタンなどにより設定された圧縮率の情報を示す操作内容を読み出す。
ステップS66において、システム制御部143は、操作ボタンの操作内容に応じた情報に基づいて、圧縮率を設定し、処理は、ステップS64に進む。
以上の処理により、画質を決定づける画素データフォーマットの圧縮率の情報が設定され、設定された画素データフォーマットの圧縮率で、上述したデータ送信処理、およびデータ受信処理を実現することが可能となる。結果として、既存のインタフェースにより、ユーザの意思に応じた画質、または、ISO感度などに対応した画質に対して、画素データフォーマットの圧縮率を適切に設定することが可能となる。
ところで、上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。
図22は、汎用のパーソナルコンピュータの構成例を示している。このパーソナルコンピュータは、CPU(Central Processing Unit)1001を内蔵している。CPU1001にはバス1004を介して、入出力インタ-フェイス1005が接続されている。バス1004には、ROM(Read Only Memory)1002およびRAM(Random Access Memory)1003が接続されている。
入出力インタ-フェイス1005には、ユーザが操作コマンドを入力するキーボード、マウスなどの入力デバイスよりなる入力部1006、処理操作画面や処理結果の画像を表示デバイスに出力する出力部1007、プログラムや各種データを格納するハードディスクドライブなどよりなる記憶部1008、LAN(Local Area Network)アダプタなどよりなり、インターネットに代表されるネットワークを介した通信処理を実行する通信部1009が接続されている。また、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini Disc)を含む)、もしくは半導体メモリなどのリムーバブルメディア1011に対してデータを読み書きするドライブ1010が接続されている。
CPU1001は、ROM1002に記憶されているプログラム、または磁気ディスク、光ディスク、光磁気ディスク、もしくは半導体メモリ等のリムーバブルメディア1011ら読み出されて記憶部1008にインストールされ、記憶部1008からRAM1003にロードされたプログラムに従って各種の処理を実行する。RAM1003にはまた、CPU1001が各種の処理を実行する上において必要なデータなども適宜記憶される。
以上のように構成されるコンピュータでは、CPU1001が、例えば、記憶部1008に記憶されているプログラムを、入出力インタフェース1005及びバス1004を介して、RAM1003にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU1001)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア1011に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
コンピュータでは、プログラムは、リムーバブルメディア1011をドライブ1010に装着することにより、入出力インタフェース1005を介して、記憶部1008にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部1009で受信し、記憶部1008にインストールすることができる。その他、プログラムは、ROM1002や記憶部1008に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
また、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
なお、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
例えば、本技術は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
尚、本技術は、以下のような構成も取ることができる。
(1) 元画像を撮像する撮像部と、
前記元画像の複数の画素データを、圧縮フォーマットに圧縮する圧縮部と、
前記元画像の複数の画素データの圧縮フォーマットを、複数の画素データの伝送フォーマットに変換する変換部と
を含むイメージセンサ。
(2) 前記伝送フォーマットのビット長は、前記圧縮フォーマットのビット長と異なる
(1)に記載のイメージセンサ。
(3) 前記伝送フォーマットのビット長は、前記圧縮フォーマットのビット長と同一である
(1)に記載のイメージセンサ。
(4) 前記圧縮部は、前記元画像の複数の画素データ単位で前記圧縮フォーマットに圧縮し、
前記変換部は、前記元画像の複数の画素データ単位で圧縮された前記圧縮フォーマットを、前記複数の伝送フォーマットに変換する
(1)乃至(3)に記載のイメージセンサ。
(5) 前記変換部は、前記元画像の複数の画素データ単位で圧縮された前記圧縮フォーマットを、前記複数の伝送フォーマットに変換する際、ブロックサイズに合わせるため、前記複数の画素データ単位で処理する画素データに仮想データを配置する
(4)に記載のイメージセンサ。
(6) 前記元画像の画質に応じて圧縮率を設定する設定部をさらに含み、
前記圧縮部は、前記設定部により設定される圧縮率で、前記元画像の複数の画素データを、圧縮フォーマットに圧縮する
(1)に記載のイメージセンサ。
(7) 元画像を撮像し、
前記元画像の複数の画素データを、圧縮フォーマットに圧縮し、
前記元画像の複数の画素データの圧縮フォーマットを、複数の画素データの伝送フォーマットに変換する
ステップを含むイメージセンサのデータ伝送方法。
(8) 元画像を撮像する撮像ステップと、
前記元画像の複数の画素データを、圧縮フォーマットに圧縮する圧縮ステップと、
前記元画像の複数の画素データの圧縮フォーマットを、複数の画素データの伝送フォーマットに変換する変換ステップと
を含む処理をコンピュータに実行させるためのプログラム。
(9) 前記元画像の複数の画素データが、圧縮フォーマットに圧縮され、前記元画像の複数の画素データの圧縮フォーマットが変換された、前記複数の画素データの伝送フォーマットを、前記複数の画素データの圧縮フォーマットに復元する復元部と、
前記復元部により復元された圧縮フォーマットを前記元画像の複数の画素データに伸張する伸張部と
を含む情報処理装置。
(10) 前記伝送フォーマットのビット長は、前記圧縮フォーマットのビット長と異なる
(9)に記載の情報処理装置。
(11) 前記伝送フォーマットのビット長は、前記圧縮フォーマットのビット長と同一である
(9)に記載の情報処理装置。
(12) 前記復元部は、前記複数の伝送フォーマットを、前記元画像の複数の画素データ単位で前記圧縮フォーマットに復元し、
前記伸張部は、前記元画像の複数の画素データ単位で圧縮された前記圧縮フォーマットを、前記複数の画素データに伸張する
(9)乃至(11)のいずれかに記載の情報処理装置。
(13) 前記元画像の画質に応じて圧縮率を設定する設定部をさらに含み、
前記伸張部は、前記設定部により設定される圧縮率に基づいて、前記圧縮フォーマットを、前記元画像の複数の画素データに伸張する
(9)に記載の情報処理装置。
(14) 前記元画像の複数の画素データが、圧縮フォーマットに圧縮され、前記元画像の複数の画素データの圧縮フォーマットが変換された、前記複数の画素データの伝送フォーマットを、前記複数の画素データの圧縮フォーマットに復元し、
復元された圧縮フォーマットを前記元画像の複数の画素データに伸張する
ステップを含む情報処理方法。
(15) 前記元画像の複数の画素データが、圧縮フォーマットに圧縮され、前記元画像の複数の画素データの圧縮フォーマットが変換された、前記複数の画素データの伝送フォーマットを、前記複数の画素データの圧縮フォーマットに復元する復元ステップと、
前記復元ステップの処理により復元された圧縮フォーマットを前記元画像の複数の画素データに伸張する伸張ステップと
を含む処理をコンピュータに実行させるプログラム。
(16) 元画像を撮像する撮像部と、
前記元画像の複数の画素データを、圧縮フォーマットに圧縮する圧縮部と、
前記元画像の複数の画素データの圧縮フォーマットを、複数の画素データの伝送フォーマットに変換する変換部と
を含む電子機器。
(17) 前記元画像の複数の画素データが、圧縮フォーマットに圧縮され、前記元画像の複数の画素データの圧縮フォーマットが変換された、前記複数の画素データの伝送フォーマットを、前記複数の画素データの圧縮フォーマットに復元する復元部と、
前記復元部により復元された圧縮フォーマットを前記元画像の複数の画素データに伸張する伸張部と
を含む電子機器。
1 伝送システム, 11 イメージセンサ, 12 DSP, 21 撮像部, 22 送信部, 31 受信部, 32 画像処理部, 51 システム制御部, 53 レジスタ, 54 圧縮部, 62 変換部, 63 ペイロードECC挿入部, 64 パケット生成部, 65 レーン分配部, 72 ヘッダ生成部, 83−0乃至83−N 信号処理部, 91 制御コード挿入部, 92 8B10Bシンボルエンコーダ, 93 同期部, 94 送信部, 102−0乃至102−N 信号処理部, 111 受信部, 112 クロック生成部, 113 同期部, 114 シンボル同期部, 115 10B8Bシンボルデコーダ, 116 スキュー補正部, 117 制御コード除去部, 122 レーン統合部, 123 パケット分離部, 124 ペイロードエラー訂正部, 125 変換部, 132 ヘッダエラー訂正部, 142 レジスタ, 143 システム制御部, 144 伸張部

Claims (17)

  1. 元画像を撮像する撮像部と、
    前記元画像の複数の画素データを、圧縮フォーマットに圧縮する圧縮部と、
    前記元画像の複数の画素データの圧縮フォーマットを、複数の画素データの伝送フォーマットに変換する変換部と
    を含むイメージセンサ。
  2. 前記伝送フォーマットのビット長は、前記圧縮フォーマットのビット長と異なる
    請求項1に記載のイメージセンサ。
  3. 前記伝送フォーマットのビット長は、前記圧縮フォーマットのビット長と同一である
    請求項1に記載のイメージセンサ。
  4. 前記圧縮部は、前記元画像の複数の画素データ単位で前記圧縮フォーマットに圧縮し、
    前記変換部は、前記元画像の複数の画素データ単位で圧縮された前記圧縮フォーマットを、前記複数の伝送フォーマットに変換する
    請求項1に記載のイメージセンサ。
  5. 前記変換部は、前記元画像の複数の画素データ単位で圧縮された前記圧縮フォーマットを、前記複数の伝送フォーマットに変換する際、ブロックサイズに合わせるため、前記複数の画素データ単位で処理する画素データに仮想データを配置する
    請求項4に記載のイメージセンサ。
  6. 前記元画像の画質に応じて圧縮率を設定する設定部をさらに含み、
    前記圧縮部は、前記設定部により設定される圧縮率で、前記元画像の複数の画素データを、圧縮フォーマットに圧縮する
    請求項1に記載のイメージセンサ。
  7. 元画像を撮像し、
    前記元画像の複数の画素データを、圧縮フォーマットに圧縮し、
    前記元画像の複数の画素データの圧縮フォーマットを、複数の画素データの伝送フォーマットに変換する
    ステップを含むイメージセンサのデータ伝送方法。
  8. 元画像を撮像する撮像ステップと、
    前記元画像の複数の画素データを、圧縮フォーマットに圧縮する圧縮ステップと、
    前記元画像の複数の画素データの圧縮フォーマットを、複数の画素データの伝送フォーマットに変換する変換ステップと
    を含む処理をコンピュータに実行させるためのプログラム。
  9. 前記元画像の複数の画素データが、圧縮フォーマットに圧縮され、前記元画像の複数の画素データの圧縮フォーマットが変換された、前記複数の画素データの伝送フォーマットを、前記複数の画素データの圧縮フォーマットに復元する復元部と、
    前記復元部により復元された圧縮フォーマットを前記元画像の複数の画素データに伸張する伸張部と
    を含む情報処理装置。
  10. 前記伝送フォーマットのビット長は、前記圧縮フォーマットのビット長と異なる
    請求項9に記載の情報処理装置。
  11. 前記伝送フォーマットのビット長は、前記圧縮フォーマットのビット長と同一である
    請求項9に記載の情報処理装置。
  12. 前記復元部は、前記複数の伝送フォーマットを、前記元画像の複数の画素データ単位で前記圧縮フォーマットに復元し、
    前記伸張部は、前記元画像の複数の画素データ単位で圧縮された前記圧縮フォーマットを、前記複数の画素データに伸張する
    請求項9に記載の情報処理装置。
  13. 前記元画像の画質に応じて圧縮率を設定する設定部をさらに含み、
    前記伸張部は、前記設定部により設定される圧縮率に基づいて、前記圧縮フォーマットを、前記元画像の複数の画素データに伸張する
    請求項9に記載の情報処理装置。
  14. 前記元画像の複数の画素データが、圧縮フォーマットに圧縮され、前記元画像の複数の画素データの圧縮フォーマットが変換された、前記複数の画素データの伝送フォーマットを、前記複数の画素データの圧縮フォーマットに復元し、
    復元された圧縮フォーマットを前記元画像の複数の画素データに伸張する
    ステップを含む情報処理方法。
  15. 前記元画像の複数の画素データが、圧縮フォーマットに圧縮され、前記元画像の複数の画素データの圧縮フォーマットが変換された、前記複数の画素データの伝送フォーマットを、前記複数の画素データの圧縮フォーマットに復元する復元ステップと、
    前記復元ステップの処理により復元された圧縮フォーマットを前記元画像の複数の画素データに伸張する伸張ステップと
    を含む処理をコンピュータに実行させるプログラム。
  16. 元画像を撮像する撮像部と、
    前記元画像の複数の画素データを、圧縮フォーマットに圧縮する圧縮部と、
    前記元画像の複数の画素データの圧縮フォーマットを、複数の画素データの伝送フォーマットに変換する変換部と
    を含む電子機器。
  17. 前記元画像の複数の画素データが、圧縮フォーマットに圧縮され、前記元画像の複数の画素データの圧縮フォーマットが変換された、前記複数の画素データの伝送フォーマットを、前記複数の画素データの圧縮フォーマットに復元する復元部と、
    前記復元部により復元された圧縮フォーマットを前記元画像の複数の画素データに伸張する伸張部と
    を含む電子機器。
JP2014550130A 2012-11-29 2013-11-18 イメージセンサおよびそのデータ伝送方法、情報処理装置および情報処理方法、電子機器、並びにプログラム Expired - Fee Related JP6349259B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012261208 2012-11-29
JP2012261208 2012-11-29
PCT/JP2013/080978 WO2014084072A1 (ja) 2012-11-29 2013-11-18 イメージセンサおよびそのデータ伝送方法、情報処理装置および情報処理方法、電子機器、並びにプログラム

Publications (2)

Publication Number Publication Date
JPWO2014084072A1 true JPWO2014084072A1 (ja) 2017-01-05
JP6349259B2 JP6349259B2 (ja) 2018-06-27

Family

ID=50827716

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014550130A Expired - Fee Related JP6349259B2 (ja) 2012-11-29 2013-11-18 イメージセンサおよびそのデータ伝送方法、情報処理装置および情報処理方法、電子機器、並びにプログラム

Country Status (7)

Country Link
US (1) US10362220B2 (ja)
EP (1) EP2928175A4 (ja)
JP (1) JP6349259B2 (ja)
KR (1) KR20150091467A (ja)
CN (1) CN104854854B (ja)
TW (1) TWI686085B (ja)
WO (1) WO2014084072A1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8687086B1 (en) * 2012-03-30 2014-04-01 Gopro, Inc. On-chip image sensor data compression
TWI686085B (zh) * 2012-11-29 2020-02-21 日商索尼半導體解決方案公司 攝像裝置及圖像感測器之資料傳送方法、資訊處理裝置及資訊處理方法以及程式
US10146727B2 (en) * 2015-04-14 2018-12-04 Qualcomm Incorporated Enhanced virtual GPIO with multi-mode modulation
EP3195791A1 (en) * 2015-07-24 2017-07-26 Olympus Corporation Image data transmission system
EP3174286B1 (en) 2015-11-25 2021-01-06 Canon Kabushiki Kaisha Image sensor and image capturing apparatus
JP6603558B2 (ja) * 2015-11-25 2019-11-06 キヤノン株式会社 撮像素子および撮像装置
JP6694284B2 (ja) * 2016-01-29 2020-05-13 シナプティクス・ジャパン合同会社 画像データ伝送システム、送信回路及び受信回路
US9881664B1 (en) * 2017-01-12 2018-01-30 Cadence Design Systems, Inc. Per-group delay line architecture to de-skew input/output timing between a high bandwidth memory (HBM) physical (PHY) interface and the HBM device
WO2018131233A1 (ja) * 2017-01-16 2018-07-19 ソニーセミコンダクタソリューションズ株式会社 送信制御装置、受信制御装置および送受信制御システム
US11457142B2 (en) 2017-06-09 2022-09-27 Sony Semiconductor Solutions Corporation Reception device, transmission device, control method, program, and transmission and reception system
US10708524B2 (en) 2017-09-01 2020-07-07 Semiconductor Components Industries, Llc Methods and apparatus for high dynamic range imaging
CN107483279B (zh) * 2017-10-10 2020-06-12 福建星网智慧软件有限公司 一种基于以太网帧的本地批量操作网络设备的方法
CN111373736A (zh) * 2019-04-23 2020-07-03 深圳市大疆创新科技有限公司 接口时序转化装置、图像数据处理方法、传输方法及系统、存储介质
CN110868266B (zh) * 2019-10-31 2022-01-28 维沃移动通信有限公司 一种电子设备及信息处理方法
JPWO2021100627A1 (ja) * 2019-11-20 2021-05-27
JP2022182021A (ja) * 2021-05-27 2022-12-08 キヤノン株式会社 シリアル通信装置及びシリアル通信方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08154246A (ja) * 1994-11-28 1996-06-11 Fuji Xerox Co Ltd 画像圧縮装置
JP2000138931A (ja) * 1998-10-30 2000-05-16 Fujitsu Ltd 画像符号化・復号システムおよび画像符号化・復号方法並びに画像符号化装置および画像復号装置並びに画像符号化方法および画像復号方法並びに画像符号化・復号装置
JP2008543203A (ja) * 2005-06-03 2008-11-27 ノキア コーポレイション 圧縮された未加工の画像を使用する画像プロセッサのための一時的画像バッファ
JP2009130563A (ja) * 2007-11-22 2009-06-11 Sony Corp データ処理装置、データ処理方法およびデータ処理プログラム、ならびに、撮像装置、撮像装置の制御方法および撮像装置の制御プログラム
JP2012054882A (ja) * 2010-09-03 2012-03-15 Panasonic Corp 画像符号化方法、画像復号化方法、画像符号化装置及び画像復号化装置
US20120081577A1 (en) * 2010-09-30 2012-04-05 Apple Inc. Image sensor data formats and memory addressing techniques for image signal processing

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5995553A (en) * 1997-01-28 1999-11-30 Tft, Inc. Encoder/decoder for emergency alert system
JP3782542B2 (ja) * 1997-04-02 2006-06-07 キヤノン株式会社 画像処理装置及び画像処理システム
US6522694B1 (en) * 1998-10-09 2003-02-18 Matsushita Electric Industrial Co., Ltd. Programmable filter for removing stuffing bits from an MPEG-2 bit-stream
JP3349490B2 (ja) * 2000-02-14 2002-11-25 インターナショナル・ビジネス・マシーンズ・コーポレーション 画像表示方法、画像表示システム、ホスト装置、画像表示装置、およびディスプレイ用インターフェイス
US6831947B2 (en) * 2001-03-23 2004-12-14 Sharp Laboratories Of America, Inc. Adaptive quantization based on bit rate prediction and prediction error energy
FI114071B (fi) * 2003-01-13 2004-07-30 Nokia Corp Kuvien käsitteleminen rajoitetulla bittimäärällä
JP3610975B2 (ja) * 2003-04-16 2005-01-19 ソニー株式会社 記録装置および方法
KR20040104237A (ko) * 2003-06-03 2004-12-10 삼성전자주식회사 압축방식을 자동으로 설정하는 촬영장치 및 방법
DE112006003459B4 (de) * 2005-12-21 2015-02-05 Konica Minolta, Inc. Ultraschalldiagnosevorrichtung
US7742083B2 (en) * 2006-04-13 2010-06-22 Eastman Kodak Company In-camera dud image management
CN101331771B (zh) * 2006-05-16 2010-07-28 索尼株式会社 通信系统、发送设备、接收设备和通信方法
JP4176114B2 (ja) * 2006-06-19 2008-11-05 シャープ株式会社 画像圧縮装置およびそれを備えた画像読取装置、画像圧縮装置を備えた画像処理装置並びにそれを備えた画像形成装置、画像圧縮処理方法
US8121534B2 (en) * 2006-09-27 2012-02-21 Sirius Xm Radio Inc. System and method for sending and receiving images via wireless audio channels
US8699808B2 (en) * 2007-10-15 2014-04-15 Chih-Ta Star Sung Method and apparatus of temporary image frame compression
JP5358931B2 (ja) * 2007-11-28 2013-12-04 ソニー株式会社 送信装置及び受信装置
JP2009177447A (ja) * 2008-01-24 2009-08-06 Panasonic Corp 動画像送受信システム
US8233728B2 (en) * 2008-11-07 2012-07-31 Cisco Technology, Inc. Embedded image quality stamps
JP4702463B2 (ja) * 2009-03-03 2011-06-15 コニカミノルタビジネステクノロジーズ株式会社 画像データ送信装置、画像データ送信方法、およびコンピュータプログラム
JP2011049901A (ja) 2009-08-27 2011-03-10 Panasonic Corp 固体撮像装置、撮像装置
JP5618143B2 (ja) * 2010-11-12 2014-11-05 ソニー株式会社 符号化装置、符号化方法、復号装置、復号方法、プログラム、および伝送システム
CN103988518B (zh) * 2011-11-25 2018-05-15 日立麦克赛尔株式会社 图像传输装置
JP5987319B2 (ja) * 2012-01-06 2016-09-07 富士ゼロックス株式会社 送受信システム及びプログラム
JP5982869B2 (ja) * 2012-02-28 2016-08-31 富士ゼロックス株式会社 送受信システム及びプログラム
KR101367777B1 (ko) * 2012-08-22 2014-03-06 주식회사 핀그램 적응 이미지 압축시스템 및 그 방법
TWI686085B (zh) * 2012-11-29 2020-02-21 日商索尼半導體解決方案公司 攝像裝置及圖像感測器之資料傳送方法、資訊處理裝置及資訊處理方法以及程式

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08154246A (ja) * 1994-11-28 1996-06-11 Fuji Xerox Co Ltd 画像圧縮装置
JP2000138931A (ja) * 1998-10-30 2000-05-16 Fujitsu Ltd 画像符号化・復号システムおよび画像符号化・復号方法並びに画像符号化装置および画像復号装置並びに画像符号化方法および画像復号方法並びに画像符号化・復号装置
JP2008543203A (ja) * 2005-06-03 2008-11-27 ノキア コーポレイション 圧縮された未加工の画像を使用する画像プロセッサのための一時的画像バッファ
JP2009130563A (ja) * 2007-11-22 2009-06-11 Sony Corp データ処理装置、データ処理方法およびデータ処理プログラム、ならびに、撮像装置、撮像装置の制御方法および撮像装置の制御プログラム
JP2012054882A (ja) * 2010-09-03 2012-03-15 Panasonic Corp 画像符号化方法、画像復号化方法、画像符号化装置及び画像復号化装置
US20120081577A1 (en) * 2010-09-30 2012-04-05 Apple Inc. Image sensor data formats and memory addressing techniques for image signal processing

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
NOKIA AND ST, SMIA 1.0 PART 2: CCP2 SPECIFICATION, JPN6017048716, June 2004 (2004-06-01), pages p.12,30-31,45-52 *

Also Published As

Publication number Publication date
WO2014084072A1 (ja) 2014-06-05
TW201424369A (zh) 2014-06-16
JP6349259B2 (ja) 2018-06-27
CN104854854A (zh) 2015-08-19
EP2928175A4 (en) 2016-08-03
KR20150091467A (ko) 2015-08-11
CN104854854B (zh) 2019-04-05
TWI686085B (zh) 2020-02-21
US10362220B2 (en) 2019-07-23
US20150312476A1 (en) 2015-10-29
EP2928175A1 (en) 2015-10-07

Similar Documents

Publication Publication Date Title
JP6349259B2 (ja) イメージセンサおよびそのデータ伝送方法、情報処理装置および情報処理方法、電子機器、並びにプログラム
JP6014991B2 (ja) 画像出力装置、画像出力方法、画像処理装置、画像処理方法、プログラム、データ構造、および撮像装置
JP2012105188A (ja) 画像出力装置、画像出力方法、画像処理装置、画像処理方法、プログラム、および撮像装置
CN114499772A (zh) 数据传输方法及电子设备
US20220053053A1 (en) Transmission device, transmission method, reception device, reception method, and transmission-reception device
US20060209335A1 (en) Image transmitter
US11930296B2 (en) Transmission device, reception device, and transmission system with padding code insertion
US20120308149A1 (en) Data processing apparatus and data processing method
US20110285869A1 (en) Serial data sending and receiving apparatus and digital camera
CN111669516A (zh) 一种基于fpga实现八路视频数据的横向拼接及imu数据的实时同步方法
EP4064682A1 (en) Transmission device, reception device, and transmission system
WO2020250727A1 (ja) 送信装置、送信方法、受信装置、受信方法、および送受信装置
US20220166598A1 (en) Transmission apparatus, reception apparatus, and transmission system
JP2023163310A (ja) 送信装置、送信方法、受信装置、受信方法、プログラム、および伝送システム
JP2012222559A (ja) 固体撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161110

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180227

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180420

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180508

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180604

R150 Certificate of patent or registration of utility model

Ref document number: 6349259

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees