JP5695080B2 - 圧縮画像データの解像度ベースのフォーマット - Google Patents

圧縮画像データの解像度ベースのフォーマット Download PDF

Info

Publication number
JP5695080B2
JP5695080B2 JP2012544852A JP2012544852A JP5695080B2 JP 5695080 B2 JP5695080 B2 JP 5695080B2 JP 2012544852 A JP2012544852 A JP 2012544852A JP 2012544852 A JP2012544852 A JP 2012544852A JP 5695080 B2 JP5695080 B2 JP 5695080B2
Authority
JP
Japan
Prior art keywords
data
green
data channel
image
channel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012544852A
Other languages
English (en)
Other versions
JP2013515395A5 (ja
JP2013515395A (ja
Inventor
ジャナード、ジェイムズ、エイチ.
ローマン、ロブ、ウーター
グリーン、リチャード
Original Assignee
レッド.コム,インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by レッド.コム,インコーポレイテッド filed Critical レッド.コム,インコーポレイテッド
Publication of JP2013515395A publication Critical patent/JP2013515395A/ja
Publication of JP2013515395A5 publication Critical patent/JP2013515395A5/ja
Application granted granted Critical
Publication of JP5695080B2 publication Critical patent/JP5695080B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/005Statistical coding, e.g. Huffman, run length coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/02Handling of images in compressed format, e.g. JPEG, MPEG

Description

関連出願の相互参照
本願は、2009年12月16日に出願された米国仮特許出願第61/287,120号に基づくもので、その優先権を主張するものであり、この特許の内容全体を参照によって本願明細書に引用したものとする。
本開示は、デジタルカメラで検出された画像データなどの静止画又は動画の画像データを圧縮、解凍、又は再構成するための装置に関する。
デジタルカメラは、センサの各々の画像素子(又は画素)が色に対応するように、カラー・フィルタ・アレイを有するセンサを使用して光学的画像を検出することができる。例えば、Bayerパターンのカラー・フィルタ・アレイを有するセンサは、緑波長の光を検出するいくつかのセンサ素子と、青波長の光を検出するいくつかのセンサ素子と、赤波長の光を検出するいくつかのセンサ素子とを有する。フルカラー画像は、センサ素子から取得された測定値を使用して再構成される。
フルカラー画像を再構成するのに、さまざまなアルゴリズムを使用してもよい。一部のアルゴリズムは、速いが再構成画像に最適品質を提供するものではない。他のアルゴリズムは、より良い画質を提供するが遅い。静止画又は動画を撮るようなデジタルカメラは多量のデータを生成し、フル解像度の画像を再構成することにより、アクセスしなければならないデータ量が増加する。
デジタルカメラ上で動作する圧縮アルゴリズムは、画像成分を色ごとに圧縮することができる。その後、圧縮された測定値はカメラなしで解凍され、使用者はフルカラー画像を再構成するために適切なアルゴリズムを選択することができる。圧縮画像からの再構成画像の解像度は制限される場合がある。例えば、データインタフェースの帯域幅は、データがデータインタフェースを介して送信される速度を制限する場合がある。ディスプレイ媒体の解像度は、圧縮画像の解像度未満の場合がある。ディスプレイ媒体は、所望の速度でフル解像度の画像を表示するのに十分な処理能力を持たない場合がある。画像に含まれるいくつかのデータはビューアでは認識できない場合もあり、使用者が低い解像度がふさわしいと判断する場合もある。上述の理由及び他の理由から、圧縮アルゴリズムはさまざまな解像度の表示を提供することができる。
ハードウェアを含み、及び/又は画像データを処理する方法を実行するように構成されたシステムを示すブロック図の例である。
圧縮画像の準備及びフォーマットを示すフローチャートの例である。
画像の圧縮を示すフローチャートの例である。
画像の解凍を示すフローチャートの例である。
ウェーブレット変換に対応するサブバンドの例を示す図である。 ウェーブレット変換に対応するサブバンドの例を示す図である。 ウェーブレット変換に対応するサブバンドの例を示す図である。
画像を圧縮する際に使用されるデータ成分の例を示す図である。
固定レート圧縮アルゴリズムの空間割り当ての例を示す図である。 可変レート圧縮アルゴリズムの空間割り当ての例を示す図である。 固定レート圧縮アルゴリズムの空間割り当ての例を示す図である。 可変レートの圧縮アルゴリズムの空間割り当ての例を示す図である。
カラー・フィルタ・アレイの繰り返しパターンを示す図である。
圧縮画像の再構成を示すフローチャートの例である。
図1は、光データを検出して、検出されたデータを圧縮する例示的な装置のコンポーネントのブロック図である。光学モジュール10は、画像センサ12に画像の焦点を合わせる。センサとしては、例えば、CCD(電荷結合素子)アレイ又はアクティブピクセルセンサのようなCMOS(相補型金属酸化膜半導体)センサが挙げられる。このような画像センサは、一般に、シリコンチップ上に形成され、何百万もの画像センサセルを含むことができる。各々のセンサセルは、その表面に到達する光を検出して、検出された光の強度に相当する信号を出力する。その後、検出された光はデジタル化される。
これらの画像センサは光の波長の広帯域のスペクトルに対して感度を有するので、カラー・フィルタ・アレイは、該センサの感光面全体にわたって配置される。1つのタイプのカラー・フィルタ・アレイは、選択的にセンサ素子に赤色、青色、緑色の波長を通過させるBayerパターンのカラー・フィルタ・アレイである。しかし、該センサの出力はモザイク画像である。このモザイク画像は、赤色画素、緑色画素、及び青色画素のマトリクスを重ねることによって形成される。その後、モザイク画像は、通常、各々の画像素子がフルセットのカラー画像データを有するようにデモザイク処理される。カラー画像データは、RGBカラーフォーマット又は任意の他のカラーフォーマットで表すことができる。
本明細書で開示されている実施形態のいくつかは、Bayerパターンフィルタを有する1つのセンサ装置を備えるビデオカメラに関して説明されている。しかし、本明細書の実施形態は、異なる画像フォーマットタイプで動作し、静止画及び/又は動画用に構成された、他のタイプの画像センサ(例えば、CMY Bayer及び他のBayerでないパターン)、他の数の画像センサを有するカメラにも適用可能である。本明細書で開示されている実施形態は単なる例であって非限定的な実施形態であり、本明細書で開示されている本発明は開示されている例示的な実施形態に限定されないことは理解されたい。
図1に戻ると、光学ハードウェア10は、画像センサ12に入力画像の焦点を合わせるように構成された少なくとも1つのレンズを有するレンズ系の形にすることができる。光学ハードウェア10は、任意で、可変ズーム、可変アパーチャ、及び可変フォーカス機能のマルチレンズ系の形にすることができる。更に、光学ハードウェア10は、カメラ筐体に支持され、複数の異なるタイプのレンズ系を受承するように構成されたレンズソケットの形にすることができる。例えば、光学ハードウェア10として、種々のサイズのレンズ系、例えば、50〜100mm(F2.8)ズームレンズ、18〜50mm(F2.8)ズームレンズ、300mm(F2.8)レンズ、15mm(F2.8)レンズ、25mm(F1.9)レンズ、35mm(F1.9)レンズ、50mm(F1.9)レンズ、85mm(F1.9)レンズ、及び/又は他のレンズ(これらに限定されない)を含むレンズ系を受承するように構成されたソケットが挙げられる。上述したように、光学ハードウェア10は、取り付けられるレンズに関係なく、画像の焦点が画像センサ12の感光面に合わせられるように構成される。
画像センサ12は、任意のタイプの画像検知装置とすることができる。例えば、CCD、CMOS、Foveon(登録商標)センサなどの垂直積層CMOS素子、又はプリズムを使用してセンサ間で光を分割するマルチセンサアレイが挙げられるが、これらに限定されない。いくつかの実施形態では、画像センサ12は、約1200万個のフォトセルを有するCMOS素子を含むことができる。しかし、他のサイズのセンサも使用することができる。いくつかの構成では、カメラ10は、水平解像度「4.5k」(例えば、4,520×2540)、「4k」(例えば、4,096×2,540画素)、「2k」(例えば、2048×1152画素)又は他の解像度でビデオを出力するように構成される。本明細書で使用される時、xkのフォーマット(例えば、上述した2k及び4k)で表現される用語において、「x」の数は、おおよその水平解像度を指す。例えば、「4k」解像度は約4000以上の水平画素に相当し、「2k」は約2000以上の水平画素に相当する。
また、カメラは、センサ12の出力をダウンサンプルし、その後処理して、2K、1080p、720p、又は任意の他の解像度のビデオ出力を生成するように構成される。例えば、センサ12からの画像データを「ウインドウ表示」にすることができ、それにより、出力画像のサイズを縮小して、読み出し速度を速くすることができる。しかし、他のサイズのセンサを使用することもできる。また、カメラは、センサ12の出力をアップサンプルして、より高解像度のビデオ出力を生成するように構成することもできる。
センサ12の出力は、メモリ16に記憶されてもよい。欠陥のあるセンサ素子であるか、出力が不正確なセンサ素子である場合もある。例えば、センサ素子のセンサ値がセンサ素子に到達する光の量に関係なく一定のままである場合もあれば、センサ値がセンサ素子に到達する光の量を正確に反映していない場合もある。また、カラー・フィルタ・アレイに欠陥がある場合もある。これらの場合に、画像センサ補正モジュール14は、欠陥のあるセンサ素子からのデータを他のセンサ素子からのデータと置き換えることができる。例えば、緑色フィルタに対応するセンサ素子に欠陥がある場合、欠陥のあるセンサ素子の出力を、欠陥のある素子の近くの緑色センサ素子の平均値と置き換えることができる。また、センサから取得されたデータの列のゲインに変動がある場合もある。画像センサ補正モジュール14は、これらの変動を補償するために検出値を調節することができる。画像センサ補正モジュール14は、例えば、メモリ16に記憶されているデータ上で動作してもよいし、画像センサ12から受信した時にデータ上で動作してもよい。
図1を参照すると、画像データは、圧縮準備モジュール18で圧縮の準備が行われる。いくつかの実施形態では、圧縮準備モジュール18は、センサデータを色ごとに分離するように構成される。例えば、Bayerカラー・フィルタ・アレイでは、画像データは、赤色画像データ、青色画像データ、及び緑色画像データに分離される。
いくつかのカラー・フィルタ・アレイのパターンでは、各々の色に関連付けられるセンサ素子の数はさまざまである。例えば、Bayerカラー・フィルタ・アレイは、赤色素子及び青色素子の2倍の数の緑色素子を有する。色ごとに分割する上に、色の画像データは、更に小さいグループに分割される。Bayerカラー・フィルタ・アレイを使用したいくつかの実施形態では、画像データは、圧縮の準備の段階で、赤色画像データ、青色画像データ、第1の緑色画像データ、及び第2の緑色画像データに分離される場合もある。いくつかの実施形態では、カラー画像データが圧縮の前に別の色空間に変換される場合もある。例えば、RGB色空間におけるカラー画像データは、YUV色空間、YCbCr色空間、又はカスタム色空間のような多くの異なる色空間の1つに変換される場合がある。
いくつかの圧縮アルゴリズム又はチップは、ガンマ符号化データ用に最適化される。従って、圧縮の前にガンマ関数又は指数対数曲線が施されてもよい。それぞれの画像素子に対して複雑な計算をするのを避けるために、ガンマ関数をルックアップテーブル内で符号化することができる。いくつかの実施形態では、圧縮される1つ又は複数のチャネル、例えば、緑色データチャネル又はYデータチャネルのようなチャネルに対して任意のルックアップテーブルが使用される。他の実施形態では、圧縮されるチャネルの全てに対してルックアップテーブルが使用される。異なるチャネルに対して同じルックアップテーブルが使用されてもよいし、各々のチャネルが固有のルックアップテーブルを有してもよい。
いくつかの実施形態では、プリエンファシス曲線は、y=x+bと同様の関係を使用する。ここで、例えば、a=0.5ということもあり得るし、例えば、b=0ということもあり得る。いくつかの実施形態では、画像データが、例えば、0〜1の正規化範囲内の浮動小数点データである場合(これに限定されない)に、プリエンファシス曲線を使用することができる。他の実施形態では、例えば、画像データが12ビットデータである場合、画像は、関係y=(x/4095)1/2を使用して処理され、12ビットデータが0〜1の範囲になるように正規化される。更に、画像データは、他の曲線、例えば、y=ax+cを使用して処理することができる。ここで、0.0<b<1であり、cはオフセットであり、いくつかの実施形態では0である場合もある。また、対数曲線が使用されてもよい。例えば、y=Alog(Bx+C)の形の曲線で、A、B、及びCは、所望の結果が得られるように選択された定数である。更に、上述の曲線と処理は、Rec709ガンマ曲線で使用した技術と同様に、黒色の近くでより線形の領域が得られるように修正される場合がある。これらの処理を画像データに施す際に、同じ処理が画像データの全てに施されるか、又は異なる処理が画像データの異なる色に施される。しかし、これらは、画像データを処理するのに使用できる曲線の単なる例であり、他の曲線又は変換も使用できる。更に、これらの処理技術は、上述したような数学関数を使用して、又はLUT(ルックアップテーブル)と共に適用される。ルックアップテーブルに記憶されている曲線は、上述した曲線と異なる場合がある。更に、曲線は、入力データの範囲に対して異なる方程式を使用してもよい。例えば、曲線の低い位置の範囲をy=ax+cで表し、曲線の高い位置の範囲をy=dx+eで表すことができる。更に、異なるタイプの画像データに対して異なる処理、技術、又は変換を使用することができ、画像データ、温度(ノイズレベルに影響を及ぼす可能性のある)などを記録する際に異なるISO設定を使用することができる。
データの圧縮の準備がされると、圧縮準備モジュール18は、例えば、準備されたデータをメモリ16に記憶する、又は圧縮モジュール20にデータを提供することができる。
圧縮準備モジュール18は、画像データを別々に圧縮されるタイルに分割することができる。タイルは任意のサイズにすることができ、画像全体が1つのタイルと見なされる。画像をタイルに分割することは、圧縮に必須というわけではない。
次に、圧縮モジュール20が、圧縮準備モジュール18からのデータを圧縮する。いくつかの実施形態では、圧縮モジュール20は、圧縮を実行するのに、例えば、汎用プロセッサ、DSP,又は画像処理専用プロセッサなどのプロセッサを使用する。他の実施形態では、圧縮モジュール20は、圧縮を実行するのに圧縮チップを使用する。例えば、圧縮モジュール20は、例えば、ASIC若しくはFPGAカスタムチップ、又は多くの市販圧縮チップ若しくはチップセットの1つのような、1つ又は複数のカスタムチップを使用することができる。圧縮モジュール20は、画像データの並列圧縮を可能にするサブコンポーネントを含んでもよい。例えば、圧縮モジュール20は、第1のプロセッサ若しくは圧縮チップを使用してカラー・フィルタ・アレイ(例えば、赤色、緑色、又は青色)の第1の波長に対応する画像素子を圧縮し、第2のプロセッサ若しくは圧縮チップを使用してカラー・フィルタ・アレイの第2の波長に対応する画像素子を圧縮することができる。
いくつかの実施形態では、圧縮モジュール20は、1つ又は複数のJPEG2000圧縮チップを備える。いくつかの実施形態では、圧縮モジュール20は、Analog Devices社製の1つ又は複数のADV202若しくはADV212 JPEG2000 Video Codecチップを備える。いくつかの実施形態では、圧縮モジュール20は、QuVIS社製の1つ又は複数のQuVIS Digital Mastering Codecsを備える。いくつかの実施形態では、圧縮モジュール20は、リコー社製の1つ又は複数のRB5C635 JPEG2000 Codersを備える。
圧縮後、データ・フォーマット・モジュール22は、データインタフェース24を介して送信するために圧縮データを準備する。データ・フォーマット・モジュール22は、データがJPEG2000のような標準フォーマットに準拠するように準備することができる、又は非標準フォーマットを使用してデータを準備する。データ・フォーマット・モジュール22は、圧縮データの一部を最終画像用のデータに含めるために選択することができる。例えば、データ・フォーマット・モジュール22は、画像の出来上がりのサイズが撮られたサイズ未満になるように、圧縮データの一部のみを使用することができる。
次に、フォーマットされたデータは、データインタフェース24を介して送信される。データインタフェース24は、例えば、データを、ハードドライブ、コンパクト・フラッシュ・カード、又は半導体ドライブに送信することができる。データは、1つ又は複数のデータ通信リンクを介して送信されてもよい。通信プロトコルの例として、Ethernet(登録商標)、USB、USB2、USB3、IEEE1394(FireWire400、FireWire800、FireWire S3200、FireWire S800T、i.LINK、DVを含むが、これらに限定されない)、SATA,SCSIが挙げられる。データインタフェース24を介して記録速度を上げるために、複数の記憶装置又は通信リンクが同時に使用されてもよい。
図2は、画像データを圧縮するための例示的な実施形態を示すフローチャートである。ステップ30で、画像センサ12は画像データを検出する。ステップ32で、検出された画像センサデータは、任意で、センサ測定値の欠陥又は誤りに対して補正がなされる。補正の例として、故障したセンサ素子からのデータをその周囲の素子からのデータと置き換えること、又はセンサから得られたデータ列のゲインの変動を調節することが挙げられる。
ステップ34で、画像データは、圧縮の準備がなされる。いくつかの実施形態では、センサデータは、色ごとに分類される。例えば、Bayerカラー・フィルタ・アレイを使用して、画像データは、1つ又は複数の赤色画像データ群、1つ又は複数の青色画像データ群、1つ又は複数の緑色画像データ群に分離される。いくつかの実施形態では、カラー画像データは、圧縮前に別の色空間に変換される場合もある。例えば、RGB色空間のカラー画像データは、YUV色空間、YCbCr色空間、又はカスタム色空間のような多くの異なる色空間の1つに変換される場合がある。例示的なカスタム色空間は、赤色データと緑色データとの色差に対して第1のチャネルを使用し、青色データと緑色データとの色差に対して第2のチャネルを使用することができる。いくつかの実施形態では、デモザイク処理が色空間変換処理の一部である場合がある。画像データは、別々に圧縮されるタイルに分割される。タイルは任意のサイズにすることができ、画像全体が1つのタイルと見なされる。画像をタイルに分割することは、圧縮に必須というわけではない。
ステップ36で、画像データが圧縮される。複数の圧縮コンポーネントを使用して同時にデータを圧縮してもよいし、1つの圧縮コンポーネントを使用して連続してデータを圧縮してもよい。画像データは、圧縮するためにチャネルに分離される場合がある。例えば、圧縮されるデータがRGB色空間にある場合、チャネルは、1つ又は複数の赤色画像データチャネルと、1つ又は複数の青色画像データチャネルと、1つ又は複数の緑色画像データチャネルとを備えることができる。圧縮されるデータがYUV色空間にある場合、チャネルは、1つ又は複数のY画像データチャネルと、1つ又は複数のU画像データチャネルと、1つ又は複数のV画像データチャネルとを備えることができる。いくつかの実施形態では、色空間は、1つ又は複数の緑色画像データチャネルと、赤色画像データと緑色画像データとの色差から得られた1つ又は複数のチャネルと、青色画像データと緑色画像データとの色差から得られた1つ又は複数のチャネルとを含む場合がある。いくつかの実施形態では、第1の圧縮コンポーネントは第1の緑色画像データチャネルを圧縮し、第2の圧縮コンポーネントは第2の緑色画像データチャネルを圧縮し、第3の圧縮コンポーネントは赤色画像データと緑色画像データとの色差から得られたチャネルを圧縮し、第4の圧縮コンポーネントは青色画像データと緑色画像データとの色差から得られたチャネルを圧縮する。
いくつかの実施形態では、チャネルのデータは、拡張可能な圧縮アルゴリズムを使用して圧縮される。拡張可能な圧縮アルゴリズムのタイプとして、例えば、レイヤプログレッシブ方式アルゴリズム、解像度プログレッシブ方式アルゴリズム、成分プログレッシブ方式アルゴリズムが挙げられる。
いくつかの実施形態では、チャネルのデータは、JPEG2000のような拡張可能な圧縮アルゴリズムを使用して圧縮される。例示的なJPEG2000の実装は、(9/7)浮動小数点ウェーブレット変換、又は(5/3)整数ウェーブレット変換のようなウェーブレット変換を使用することができる。圧縮アルゴリズムにより、量子化ファクタ、コード・ブロック・サイズ、変換レベルの数、可逆的若しくは非可逆的圧縮、可変ビットレート出力での所望の圧縮率、可変圧縮率での所望の固定ビットレート出力、進行順、出力フォーマット、又は視覚的重みなどの圧縮パラメータのカスタマイズが可能になる。
拡張可能な圧縮アルゴリズムの出力は、所望の圧縮率又はビットレート出力を得るように修正されてもよい。例えば、複数の変換レベルを有する拡張可能な圧縮アルゴリズムを使用して、アルゴリズムから出力された変換レベルのいくつかを落としてもよい。いくつかの実施形態では、所望の圧縮率が達成されるように変換レベルを落としてもよい。他の実施形態では、所望の固定ビットレート出力を超えないように変換レベルを落としてもよい。
いくつかの実施形態では、圧縮アルゴリズムは、異なるチャネルのデータ上で同時に動作する。例えば、圧縮されるデータがYUV色空間にある場合、チャネルは、1つ又は複数のY画像データチャネルと、1つ又は複数のU画像データチャネルと、1つ又は複数のV画像データチャネルとを備えることができる。第1の圧縮コンポーネントはUチャネルを圧縮し、第2の圧縮コンポーネントはVチャネルを圧縮し、第3及び第4の圧縮コンポーネントはYチャネルを圧縮することができる。別の例では、色空間は、1つ又は複数の緑色画像データチャネルと、赤色画像データと緑色画像データとの色差から得られた1つ又は複数チャネルと、青色画像データと緑色画像データとの色差から得られた1つ又は複数のチャネルとを含むことができる。第1及び第2の圧縮コンポーネントは緑色画像データチャネル(単数又は複数)を圧縮し、第3の圧縮コンポーネントは赤色画像データと緑色画像データとの色差から得られたチャネルを圧縮し、第4の圧縮コンポーネントは青色画像データと緑色画像データとの色差から得られたチャネルを圧縮することができる。
種々のチャネルの圧縮は、各々のチャネルの異なるパラメータを設定することにより制御することができる。上述の例における個々の圧縮コンポーネントは個々のチャネルの圧縮レベルを制御するためのパラメータを有するが、更にビット割り当てを決定するために圧縮された出力を調べることにより、更に利益を得ることができる。いくつかの実施形態では、種々の圧縮コンポーネントが圧縮レベルを調整するために互いに通信していない場合がある、又は全体的なシステムアーキテクチャが圧縮コンポーネントの調整を容易にするものでない場合がある。
ステップ38で、ステップ46からの圧縮された出力が、圧縮データを更に修正すべきであるか否かを決定するために調べられる。いくつかの実施形態では、1つ又は複数のチャネルからの変換レベルは、全体の圧縮率が達成されるように1つ又は複数のチャネルからの変換レベルを落としてもよい。他の実施形態では、全てのチャネルの全体のビットレート出力が超えないように1つ又は複数のチャネルからの変換レベルを落としてもよい。
ステップ40で、圧縮データがフォーマットされる。いくつかの実施形態では、データがすでに所望のフォーマットである場合もあり、その場合は追加の操作は必要でない。いくつかの実施形態では、データが、JPEG2000のような標準プロトコルに適合するようにフォーマットされる。いくつかの実施形態では、データは暗号化される。
図3は、画像のエントロピーを使用して画像データを圧縮するプロセスを示した図である。ステップ42で、ソース画像データの圧縮の準備がなされる。いくつかの実施形態では、各々のチャネルの圧縮は別々に行われる。いくつかの実施形態では、別個に処理されるチャネルは1つ又は複数のタイルを有する場合がある。
いくつかの実施形態では、ステップ44で、ソース画像データに変換が施される。例えば、圧縮の準備の時に、DCT若しくはウェーブレット変換を使用して画像データ(例えば、RGB、YUV、YCrCb、又は他のフォーマットの画像データ)を変換してもよい。いくつかの実施形態では、Yチャネルデータ、Uチャネルデータ、Vチャネルデータのそれぞれに2進ウェーブレット変換が施される。他の実施形態では、Gチャネルデータ、RチャネルとGチャネルとの色差データ、及びBチャネルとGチャネルとの色差データのそれぞれに2進ウェーブレット変換が施される。
変換されたデータは、次に、ステップ46で量子化される。いくつかの実施形態では、量子化が省略される場合もあり、また量子化ステップサイズは、量子化されない1.0に設定される場合もある。異なるチャネルが、異なる量子化ステップサイズを有する場合もある。更に、異なる変換レベルが、異なる量子化ステップサイズを有する場合もある。いくつかの実施形態では、量子化ステップサイズは、「品質」の一定レベルを達成することができる。いくつかの実施形態では、量子化ステップサイズは、おそらく、反復プロセスによって、固定レートを達成することができる。
量子化されたデータは、次に、ステップ48で、エントロピー符号化がなされ、その結果、ステップ50で、圧縮画像データが得られる。
図4は、画像のエントロピーを使用して圧縮された画像データを解凍するための同様のプロセスを示す図である。ステップ52の圧縮画像データが、ステップ54でエントロピーデコーダに提供される。復号化された画像データは、ステップ46で行われた量子化に従ってリスケールされる。ステップ58で、リスケールされた画像データに逆変換が施され、その結果、ステップ60で、図3のステップ42の画像ソースデータに相当する出力画像データが得られる。圧縮が可逆である場合、出力画像データは、入力画像データと同じになる。圧縮が非可逆である場合、出力画像データは入力画像データと異なるものになる。いくつかの非可逆圧縮の実施形態では、再構成された出力画像と元の入力画像との差は目で確認できない程度である。
図5A〜図5Cは、二次元ウェーブレット変換を施して、各々が多数のサブバンドを含む一連のレベルにタイルを解凍する一例を示した図である。これらのサブバンドは、レベルの水平特性及び垂直特性の高周波成分及び低周波成分を指す。例えば、図5Aは、水平方向及び垂直方向の低周波数成分から成る象限1LLと、水平方向の低周波数成分と垂直方向の高周波数成分とから成る象限1HLと、水平方向の高周波数成分と垂直方向の低周波数成分とから成る象限1LHと、水平方向及び垂直方向の高周波数成分から成る象限1HHとを示している。図5Aに示されている象限1LL、1HL、1LH、及び1HHのそれぞれは、それぞれの方向に元の解像度の2分の1の解像度を有する。従って、それぞれの象限の画素は、原画像の4分の1である。
図5Bは、図5Aの象限1LLに更にウェーブレット変換を施した結果、新しい象限1LL、1HL、1LH、及び1HHが得られた図である。新しい象限のそれぞれは、図5Aの象限1LLのそれぞれの方向に2分の1の解像度を有する。図5Bの象限2HLは図5Aの象限1HLに相当し、図5Bの象限2LHは図5Aの象限1LHに相当し、図5Bの象限2HHは図5Aの象限1HHに相当する。
図5Cは、図5Bの象限1LLに更に変換を施すプロセスを示している。低周波数象限1LLに変換を施すプロセスを継続して、それぞれの変換により徐々に細かい解像度レベルが得られるようにすることができる。いくつかの実施形態では、プロセスを繰り返して、例えば、解像度レベル5まで上げることができる。他の実施形態では、プロセスを繰り返して、10、12、又はそれ以上の解像度レベルにすることができる。可能な解像度レベルの最大数は原画像のサイズによってのみ制限されるが、解像度レベルが大きすぎると利益が得られなくなる場合がある。
変換されたデータは、さまざまな方法で記憶することができる。例えば、変換データを、チャネル(例えば、赤色、青色、緑色1、又は緑色2)ごとに、解像度(例えば、1LL、2LL、3LLなど)ごとに、フレームごとに、又はこれらの手法を組み合わせて記憶することができる。
時には、高解像度で撮られた画像が低解像度で見られる場合がある。例えば、ビデオカメラからのデータは、ネットワーク接続を介して、撮られたデータの解像度よりも低い解像度を有する視覚装置に送信される場合がある。低解像度の視覚装置で使用される高解像度の情報を送信する必要はなく、低解像度情報のみを送信することがネットワーク上の帯域幅の問題を避けることにつながる場合がある。いくつかの実施形態では、画像データは個々の解像度レベルのデータにアクセスできるフォーマットで記憶されて、低解像度情報を見るために高解像度情報を処理する必要がないようにする。
いくつかのカラー・フィルタ・アレイは、重複する色要素を含む。例えば、Bayerパターンは、一般に、赤色要素又は青色要素のそれぞれに対する2つの緑色要素を含む。2つの緑色チャネルが取り込まれても、画像を再構成するのに1つの緑色チャネルだけが使用される場合もある。画像データは、赤色、青色、及び第1の緑色チャネルにアクセスできるフォーマットで記憶されて、第2の緑色チャネルにアクセスしなくてもよい場合もある。従って、いくつかの低帯域幅のアプリケーションでは、4色のチャネルのうちの3色のチャネルのみを再構成のために使用して、第4のチャネルを送信する必要がなくなる場合がある。
さまざまな解像度及び/又はチャネルの開始位置を決めるのに、オフセットアレイ(array of offsets;オフセット配列)を使用することができる。いくつかの実施形態では、オフセットが正確に位置を特定することができる。例えば、オフセット値は、ファイルの最初から測定された特定の位置を指し示すことができる。他の実施形態では、オフセットは、前のオフセット値の累積オフセットとすることができる。例えば、画像データの各々のフレームは、関連オフセットを有する場合がある。いくつかの実施形態では、ビデオデータのフレームは複数のタイルを備え、タイルピースがまとまってフレームを形成している。各々のタイルは、オフセットに関連付けられる場合がある。ビデオデータのフレーム及び/又はタイルでは、ビデオデータのフレーム又はタイルの最初から測定される追加のオフセットを更に有し、例えば、ビデオデータのそのフレームに関係するコンポーネントを指し示すことができる。
いくつかの実施形態では、オフセットは、オフセットがデータのブロックを示すようにビットシフトされる場合がある。ファイルフォーマットは、シフトできるビット数を設定することができ、これは最大ファイルサイズに相当する。例として、オフセットが12ビットだけビットシフトされて4KBアライメントにする場合、32ビットオフセットは16テラバイト(232+12=17,592,186,044,416=16テラバイト)の最大オフセットを示すことができる。同様にして、14ビットだけビットシフトされたオフセットで16KBアライメントにする場合、32ビットオフセットは64テラバイトの最大オフセットを示すことができる。
特定の解像度及び/又は色チャネルのためにオフセットを設定することができる、又は解像度及び/又は色チャネルのグループ化のためにオフセットを設定することができる。下に示す例1は、それぞれの解像度レベルのオフセットを示しており、緑色1チャネル、青色チャネル、及び赤色チャネルはまとめてグループ化され、緑色2チャネルは別にグループ化されている。この例は、M+1個の解像度レベルとN個のタイルがあることを前提としている。第1のオフセットは、第1のタイルと、緑色1チャネル、青色チャネル、及び赤色チャネルの最低解像度レベルとを示している。第2のオフセットは、2番目に低い解像度レベルを示し、プロセスは最高解像度レベルM+1まで継続される。第2のタイルに対する同様のオフセットは、第1のタイルに対するオフセットの後に続く。プロセスは、N個のタイル全てに対して継続される。緑色1チャネル、青色チャネル、及び赤色チャネルがM+1個の解像度レベル及びN個のタイルに対して処理された後、緑色2チャネルがM+1個の解像度レベル及びN個のタイルに対して処理される。
例1:
Figure 0005695080
例1は、情報(例えば、緑色1 1LL、青色 1LL、赤色 1LL)をグループ化して、同じオフセットを共有している。情報の各々は、固有のオフセットを有することもできる。このことにより、オフセットの総数は増えることになるが、特定の情報にアクセスする柔軟性を高めることにもなる。
例1は、タイルの各々に対して緑色1チャネル、青色チャネル、及び赤色チャネルが最初に順序付けられ、その後にタイルの各々に対して緑色2チャネルが続くように情報を順序付けしている。緑色1チャネル、青色チャネル、及び赤色チャネルの処理の必要があるとすれば、このように隣接する必要データを順序付けすることで、記憶装置が新しい位置を探さなければならない回数が減ることになる。更に、あるオフセットに対するデータの最後と次のオフセットの始まりとの間にスペースがある場合がある。データをまとめてグループ化して使用されるオフセットの数を減らすということは、オフセット間の無駄なスペースがなくなるということでもある。
図6は、圧縮するために画像を分解するための例示的な階層を示す図である。図6に示されている要素は全てが必須というわけではなく、いくつかの実施形態では要素が階層から外される場合もあることは理解されたい。検出画像は、例えば、Yチャネル、Uチャネル、及びVチャネル;赤色チャネル、緑色チャネル、及び青色チャネル;又は緑色チャネル、赤色・緑色の色差チャネル、及び青色・緑色の色差チャネルのような1つ又は複数のチャネルに分離することができる。
チャネルは、1つ又は複数のタイルに分割することができる。タイルは、1つ又は複数のサブバンドに変換することができる。例えば、ウェーブレット変換は、タイルを図5に示されるようなサブバンドに変換することができる。サブバンドは、プレシンクト又はパケット分割位置に分割することができる。いくつかの実施形態では、1つのサブバンドにおけるプレシンクト又はパケット分割位置は、他のサブバンドにおけるプレシンクト又はパケット分割位置と空間相関関係があり、サブバンドからの対応するプレシンクト又はパケット分割位置は一緒に処理される。プレシンクト又はパケット分割位置は、ブロックに分割することができる。
それぞれのブロックは、複数の変換値及び/又は量子化値を有することができる。ブロック内の値は、グループとしてエントロピー符号化することができる。
エントロピー符号化は、ビットレベルで動作することができる。例えば、ブロック内のそれぞれの値のMSB(最上位ビット)は、まとめてエントロピー符号化される。同様に、それぞれの値の次のMSBも、まとめてエントロピー符号化される。更に、ビットのエントロピー符号化は、他のビットプレーンの評価を考慮することもできる。
図6に示されているような1つ又は複数のデータ成分は、空間的位置のさまざまな画質増分又は解像度レベルを提供するために組み合わされる、又は使用される。いくつかの実施形態では、データ成分は、空間的位置における1つの解像度レベルに対して1つの画質増分を提供するパケットにグループ化される。フル解像度での1つの画質増分を提供するパケット群は、まとめられて1つのレイヤになる。例えば、レイヤは、フル解像度の画像のチャネルの画質増分に対応することができる。追加のレイヤは、追加の画質増分を提供する。
図7Aは、Yチャネル、Uチャネル、及びVチャネルの9個のレイヤの空間割り当てを示す図である。図示されるように、各々のレイヤは、一定の空間が割り当てられている。この図は、圧縮アルゴリズムのレートが制限されたアプリケーションに相当する。
図7Bも、同様に、Yチャネル、Uチャネル、及びVチャネルの9個のレイヤの空間割り当てを示す図である。この図では、レイヤによって使用される空間は可変である。十分に圧縮するチャネルによって使用される空間は、同じように圧縮しないチャネルによって使用される空間より小さい。この例では、Yチャネルによって使用される空間は、Uチャネル及びVチャネルによって使用される空間より大きい。チャネル内のそれぞれのレイヤも同様に、可変空間を使用する。例えば、Yチャネルのレイヤ1及びレイヤ8の空間は、レイヤ4及びレイヤ6の空間よりも大きい。
図示されているように、図7Bのレイヤの組み合わせにより使用される空間は、図7Aのレイヤの組み合わせにより使用される空間よりも大きい。レイヤに対して可変ビットレート符号化を使用するアプリケーションの中には、総ビットレートを超えないものがある。各々のチャネルは、一定の空間が割り当てられ、総空間制限値を超えるレイヤは破棄される。例えば、図7Bでは、Yチャネルのレイヤ7、レイヤ8、及びレイヤ9は、Yチャネルの総空間制限値を超えないように破棄される。又は、全てのチャネルがまとめて一定に空間が割り当てられ、1つ又は複数のチャネルのレイヤは総空間制限値になるまで必要に応じて破棄される。例えば、Yチャネルのレイヤ9及びUチャネル及びVチャネルのレイヤ8及びレイヤ9は、全てのチャネルの総空間制限値を満たすように破棄される。
いくつかの実施形態では、各々のチャネルの得られた画質レベルはほぼ同じである。例えば、Yチャネルのレイヤ9及びUチャネル及びVチャネルのレイヤ8及びレイヤ9を破棄するということは、チャネルが互いに1つの画質レベル内にあるという意味である。いくつかの実施形態では、いくつかのチャネルが他のチャネルと同じ画質レベル又は他のチャネルより高い画質レベルを有するようにレイヤが破棄される。例えば、Yチャネルは、視覚的にロスレスな再構成画像を得るためにより重要である場合がある。例として、Yチャネルのいずれのレイヤも破棄されないが、空間の総制限値を満たすためにUチャネル及びVチャネルのレイヤ7、レイヤ8、及びレイヤ9は破棄される。
別の例として、チャネル間の画質増分の差は1より大きいが、一定の数未満である。例えば、画質増分の許容差が3である場合、1つのチャネルはレイヤ1〜レイヤ8を使用するが、他のチャネルはレイヤ1〜レイヤ5のみを使用する可能性がある。
図7C及び図7Dは、それぞれ図7A及び図7Bと同様の図であり、上述のアルゴリズムを他の色空間に施した図である。図7C及び図7Dに示されているように、アルゴリズムは、緑色チャネルデータ、赤色・緑色の色差チャネルデータ、及び青色・緑色の色差チャネルデータを有する画像に施される。図7A〜図7Dはそれぞれの色空間インデックスに対して1つのチャネルを示しているが、複数のチャネルを使用してもよいことは理解されたい。例えば、図7A〜図7BのY画像データが2つ以上のチャネルに分割されてもよい。別の例では、図7C〜図7Dの緑色画像データが2つ以上のチャネルに分割されてもよい。
いくつかの実施形態では、圧縮は、十分に再構成されていないセンサからの画像データ上で行われる。例えば、画像センサは、カラー・フィルタ・アレイを使用して、センサ素子での光の選択された波長を検出することができる。カラー・フィルタ・アレイは、図8に示されるような繰り返しパターン26を含むことができる。
いくつかの実施形態では、センサからのデータは、データの一部又は全てを別の色空間に変換せずに圧縮される。例えば、Bayerパターンのカラー・フィルタ・アレイを使用するセンサは、圧縮のために赤色データ及び青色データを赤色・緑色の色差データ及び青色・緑色の色差データに変換するが、緑色データは別の色空間に変換されずに圧縮される。別の例として、カラー・フィルタ・アレイを使用するセンサは、圧縮のために緑色チャネル(又は白色チャネル)、白色・緑色の色差チャネル、赤色・緑色の色差チャネル、及び青色・緑色の色差データを使用することができる。いくつかの実施形態では、センサからのデータは、別の色空間への変換後に圧縮される。例えば、Bayerパターンのカラー・フィルタ・アレイを使用するセンサは、赤色データ、緑色データ及び青色データをYデータ、Uデータ、及びVデータに変換することができる。
いくつかの実施形態では、色差値は、2つの隣接する値の差を求めることによって求められる。例えば、赤色・緑色の色差値又は青色・緑色の色差値は、緑色値と隣接する赤色値又は青色値との差を決定することによって求められる。いくつかの実施形態では、色差値を求めるのに平均値が使用される。例えば、2、3、4又はそれ以上の緑色画像データ値の平均値が算出されて、緑色画像素子の近くの赤色画像素子又は青色画像素子から減算されるが、これに限定されない。
2009年4月13日に出願された米国特許出願第12/422,507号明細書は、画像データを処理するためのさらなる実施形態を開示している。この特許の内容全体を参照によって本願明細書に引用したものとする。
上述したように、カラー・フィルタ・アレイには、赤色素子及び青色素子の2倍の数の緑色素子を有するものがある。すなわち、赤色素子及び青色素子はそれぞれ、カラー・フィルタ・アレイ全体の25%を構成し、緑色素子はカラー・フィルタ・アレイ全体の50%を構成する。従って、いくつかの実施形態では、緑色画像データの全てが確保される場合、追加の緑色データ画像処理モジュールを使用することができる。例えば、第1の緑色データ画像処理モジュールが緑色素子の半分を処理し、第2の緑色データ画像処理モジュールが残りの緑色素子を処理することができる。しかし、他のタイプのパターン、例えば、CMY及びRGBWのパターン(これに限定されない)と共に実施形態を使用してもよい。
上述したように、圧縮モジュール20は、任意のタイプの圧縮プロセスを実行するように構成される。いくつかの実施形態では、圧縮モジュール20は、圧縮準備モジュール18によって行われた技術によって利益が得られる圧縮技術を実行する。例えば、上述したように、圧縮準備モジュール18は、赤色データ及び青色データに対する緑色の色差値を決定して、その結果、より彩度に近いデータを得ることができるように構成されている。従って、圧縮モジュール20によって実行される圧縮技術は、圧縮モジュール20からの圧縮データ出力のサイズを低減するために、彩度データがあることで利益が得られるタイプの圧縮技術であると言える。
更に、圧縮モジュール20は、画像処理モジュール20からの画像データを圧縮して、視覚的にロスレスな出力を得ることができるように構成される。例えば、まず、圧縮モジュールは、任意の周知の圧縮技術、例えば、限定的ではないが、H.264、MPEG4、Huffman、JPEG、JPEG2000、MotionJPEG、DCTベースのコーデック、ウェーブレットベースのコーデック、画像データを圧縮するために設計された他のコーデック、又は他の技術を施すように構成される。
使用される圧縮技術のタイプに応じて、視覚的にロスレスな出力を得るために、圧縮技術の種々のパラメータを設定することができる。例えば、上述した多くの圧縮技術は、さまざまな圧縮率に調整することができる。解凍した時に、得られる画像は、低圧縮率に対して高画質、高圧縮率に対して低画質になる。従って、圧縮モジュールは、視覚的にロスレスな出力を得ることができる方法で画像データを圧縮するように構成することができる、又は使用者が視覚的にロスレスな出力を得るために種々のパラメータを調整することができるように構成することができる。
本明細書で使用する時、用語「視覚的にロスレス」は、同じ表示装置上で原画像データの再構成と並べて比較した時に、当業者が画像の目視検査のみで妥当なレベルの正確度でもって、どちらの画像再構成が原画像の再構成であるかを判断できないような処理画像データの再構成を含むものとする。
圧縮データは、記憶装置に記憶することができる。記憶装置は、任意のタイプのデジタル記憶装置の形にすることができる。例えば、ハードドライブ、半導体ドライブ、フラッシュメモリ、光ディスク、又は任意のタイプのメモリ素子が挙げられるが、これらに限定されない。いくつかの実施形態では、記憶装置のサイズは、圧縮モジュール20からの画像データを記憶するのに十分な容量であり、12メガピクセル解像度のビデオが少なくとも約30分、12ビット色解像度、及び60フレーム/秒に相当する。しかし、記憶装置は任意のサイズにしてもよい。
いくつかの実施形態では、記憶装置は、カメラ筐体の外側に取り付けられる。また、いくつかの実施形態では、記憶装置は、標準通信ポート若しくはカスタム通信ポートを介して他のコンポーネントに接続されてもよい。通信ポートとしては、例えば、Ethernet、USB、USB2、USB3、IEEE1394(FireWire 400、FireWire 800、FireWire S3200、FireWire S800T、i.LINK、DVが含まれるが、これらに限定されない)、SATA、及びSCSIが挙げられるが、これらに限定されない。更に、いくつかの実施形態では、記憶装置は、RAIDプロトコルに従って動作するような複数のハードドライブを備えることができる。しかし、任意のタイプの記憶装置を使用することができる。
いくつかの実施形態では、本明細書で開示されているアルゴリズムは、メモリ素子に記憶されているルーチンとして実装することができる。更に、プロセッサは、制御ルーチンを実行するように構成することができる。いくつかの実施形態では、カスタム回路を使用することができる。
上述の技術は、1つの静止画像又は複数の画像の処理に適用することができる。更に、上述したプロセスは、例えば、10フレーム/秒、20フレーム/秒、24フレーム/秒、30フレーム/秒、60フレーム/秒、120フレーム/秒又は任意の他のフレームレートの連続ビデオ画像の処理にも適用できる。
本明細書で示されている方法で画像データを処理することによって、画像センサ12からの画像データを圧縮率6対1又はそれ以上の圧縮率で圧縮して視覚的ロスレスな状態を維持することができる。更に、画像データを(色差値を求めることによって)変換しても、最終使用者は原画像データを利用することができる。例えば、一定のプロセスを逆にすることで、全て又はほぼ全ての原画像データを抽出することができ、使用者が望む任意のプロセスを使用して、更に処理を施し、フィルタ処理し、及び/又はデモザイク処理することができる。例えば、記憶装置に記憶されているデータを解凍し、デモザイク処理することができる。
図9は、圧縮画像の再構成を示すフローチャートの例である。ブロック62で、画像データが解凍される。上述したように、画像データはチャネルに従って圧縮された可能性がある。いくつかの実施形態では、画像の再構成のために、全てのチャネルが解凍されるわけではない。例えば、圧縮画像は、緑色画像素子に対応する2つのチャネルを有する場合がある。しかし、画像を再構成するために、緑色チャネルの1つのみを解凍する必要がある場合がある。1つのチャネルのみを解凍することで、画像再構成がより速くなる。
いくつかの実施形態では、画像の再構成のために画質レベルの全てが使用されるわけではない。上述したように、圧縮チャネルは、同じ値の画質レベルでない場合がある。例えば、再構成時に、より速く画像を再構成できるように、チャネルに対して低い画質レベルが選択される場合がある。いくつかの実施形態では、それぞれの解凍チャネルがほぼ同じ画質レベルを有するように解凍される。
ブロック64で、解凍チャネルにガンマ関数又は指数対数曲線が施される。例えば、上述のプリエンファシス曲線又はガンマ曲線のいずれかの逆関数又は他の関数が画像データに施されてもよい。いくつかの実施形態では、適用される関数は恒等関数とすることができる、つまり、出力が入力と同じである、又は補正関数が全く適用されないということである。
ブロック66の動作で、画像は圧縮データから再構成される。いくつかの実施形態では、1つ又は複数の緑色チャネルがデモザイクされ、次に、デモザイクされた緑色チャネルが他のチャネルを再構成するのに使用される。例えば、デモザイクされた緑色値を使用して、デモザイクされた緑色値と同じ位置にある赤色・緑色の色差値又は青色・緑色の色差値から赤色値又は青色値を再構成することができる。いくつかの実施形態では、緑色チャネルを最初にデモザイクせずに、他のチャネルがデモザイクされる場合がある。例えば、解凍されているがデモザイクされていない緑色値を使用して、解凍された緑色値の近くにある赤色・緑色の色差値又は青色・緑色の色差値から赤色値又は青色値を再構成することができる。更に別の例として、解凍されているがデモザイクされていない緑色値の平均値を使用して、解凍された平均緑色値の近くにある赤色・緑色の色差値又は青色・緑色の色差値から赤色値又は青色値を再構成することができる。平均値は、圧縮で使用するのと同じ値にすることができる、又は任意の他の緑色の平均値にすることができる。赤色値及び青色値は、任意の適切なアルゴリズムを使用してデモザイクされる。
デモザイクされた、又は再構成された画像データを更に処理することができる。例えば、ノイズ低減技術、アンチエイリアシング技術、又は任意の他の画像処理技術を画像データに施すことができるが、これらに限定されない。

Claims (6)

  1. カラー画像データをフォーマットする方法であって、
    フィルタ素子波長域に従って繰り返しパターンで配置された複数のフィルタ素子を有するカラー・フィルタ・アレイを使用して、光をフィルタリングするステップと、
    前記カラー・フィルタ・アレイを通過する光に関する複数のデータチャネルに対応する画像データを備える複数の画像フレームを取得するステップと、
    前記複数のデータチャネルそれぞれに対して複数の解像度レベルを提供するアルゴリズムを使用して、前記画像データを圧縮するステップと、
    前記複数の画像フレームの中の少なくともいくつかの前記画像フレームの圧縮画像データに対しては、
    各々の解像度レベルに対し、前記複数のデータチャネルのうち2つ以上のデータチャネルの前記圧縮画像データが1つの群にまとめられたフォーマットで、前記圧縮画像データを記憶するステップと、
    前記対応する画像フレーム内の各々の解像度レベルに対する少なくとも1つのオフセットを含むオフセットアレイを有するインデックスを作成して、高い解像度レベルを有するデータにアクセスしなくてもそれぞれの解像度レベルのデータにアクセスできるようにするステップとを含み、各々の解像度レベルの前記少なくとも1つのオフセットは、その解像度レベルに対応する前記群の参照であり、
    前記記憶するステップは、記憶装置に圧縮画像データの前記群をまとめて記憶するステップを更に含み、
    前記少なくとも1つのオフセットは、前記複数のデータチャネルのうちの前記群に含まれないデータチャネルの圧縮画像データへの参照を更に含み、
    前記群に含まれない前記データチャネルの前記圧縮画像データは、前記群とは別に記憶される、方法。
  2. 前記少なくとも1つのオフセットは、前記対応する画像フレームの前記圧縮画像データと共に前記記憶装置に記憶される、請求項に記載の方法。
  3. 第1の緑色データチャネルと、第2の緑色データチャネルと、赤色・緑色の色差データチャネルと、青色・緑色の色差データチャネルとを含むカラー画像データを解凍する方法であって、
    前記第1の緑色データチャネル用のオフセット値を求めるためのオフセットアレイを有するインデックスにアクセスするステップと、
    前記第1の緑色データチャネル用の前記オフセット値を使用して、高い解像度レベルを有するデータにアクセスしなくても特定の解像度レベルの前記第1の緑色データチャネル内のデータにアクセスするステップと、
    前記赤色・緑色の色差データチャネル用のオフセット値を求めるためのオフセットアレイを有するインデックスにアクセスするステップと、
    前記赤色・緑色の色差データチャネル用の前記オフセット値を使用して、高い解像度レベルを有するデータにアクセスしなくても前記特定の解像度レベルの前記赤色・緑色の色差データチャネル内のデータにアクセスするステップと、
    前記青色・緑色の色差データチャネル用のオフセット値を求めるためのオフセットアレイを有するインデックスにアクセスするステップと、
    前記青色・緑色の色差データチャネル用の前記オフセット値を使用して、高い解像度レベルを有するデータにアクセスしなくても前記特定の解像度レベルの前記青色・緑色の色差データチャネル内のデータにアクセスするステップと、
    前記第1の緑色データチャネルと前記赤色・緑色の色差データチャネルとから再構成赤色データチャネルを生成するステップと、
    前記第1の緑色データチャネルと前記青色・緑色の色差データチャネルとから再構成青色データチャネルを生成するステップと、
    前記第1の緑色データチャネルと、前記再構成赤色データチャネルと、前記再構成青色データチャネルとを使用して、再構成画像を生成するステップと
    前記オフセットアレイを有するインデックスを使用して、前記第2の緑色データチャネル用のオフセット値を求めるステップと、
    前記第2の緑色データチャネル用の前記オフセット値を使用して、高い解像度レベルを有するデータにアクセスしなくても前記特定の解像度レベルの前記第2の緑色データチャネル内のデータにアクセスできるようにするステップと、を含み、
    前記第2の緑色データチャネル内の前記アクセスされたデータは、第1の緑色データチャネル、前記赤色・緑色の色差データチャネル、及び前記青色・緑色の色差データチャネル内の前記アクセスされたデータとは別に記憶されており、
    前記第1の緑色データチャネル、前記赤色・緑色の色差データチャネル、及び前記青色・緑色の色差データチャネル内の前記アクセスされたデータがまとめてグループ化されたフォーマットで、前記カラー画像データが記憶される、方法。
  4. 前記赤色・緑色の色差データチャネル用の前記オフセット値を使用して、前記第1の緑色データチャネル内のデータにアクセスできるようにするステップと、
    前記青色・緑色の色差データチャネル用の前記オフセット値を使用して、前記第1の緑色データチャネル内のデータにアクセスできるようにするステップとを更に含む、請求項に記載の方法。
  5. 光をフィルタリングし、フィルタ素子波長域に従って繰り返しパターンで配置された複数のフィルタ素子を有する、カラー・フィルタ・アレイと、
    前記カラー・フィルタ・アレイを通過する光に関する複数のデータチャネルに対応する画像データを備える複数の画像フレームを、動画ビデオ画像シーケンスにおいて取得できる少なくとも1つの画像センサと、
    前記複数のデータチャネルの各々に対して複数の解像度レベルを提供するアルゴリズムを使用して、前記画像データを圧縮する圧縮モジュールと、
    前記複数画像フレームの個々の画像フレームの前記圧縮画像データに対して、
    前記複数のデータチャネルのうち2つ以上のデータチャネルの前記圧縮画像データが1つの群にまとめられたフォーマットで、前記個々の画像フレームの各々の解像度レベルに対して、前記圧縮画像データを記憶し、
    各々の解像度レベルに対する少なくとも1つのオフセットを含むオフセットアレイを有する前記個々の画像フレームのインデックスを作成して、高い解像度レベルを有するデータにアクセスしなくてもそれぞれの解像度レベルのデータにアクセスできるフォーマット・モジュールであって、各々の解像度レベルの前記少なくとも1つのオフセットは、その解像度レベルに対応する該群の参照を含む、フォーマット・モジュールと、
    記憶装置と、を含み、
    前記フォーマット・モジュールは、前記記憶装置に、前記群をまとめて、更に記憶し、
    前記少なくとも1つのオフセットが、前記対応する画像フレームの前記圧縮画像データと共に前記記憶装置に記憶されており、
    前記少なくとも1つのオフセットが、前記複数のデータチャネルのうちの前記群に含まれないデータチャネルの圧縮画像データへの参照を更に含み、
    前記群に含まれない前記データチャネルの前記圧縮画像データは、前記群とは別に記憶される、画像装置。
  6. 前記複数のデータチャネルが異なる色チャネルに対応する、請求項に記載の画像装置。
JP2012544852A 2009-12-16 2010-12-16 圧縮画像データの解像度ベースのフォーマット Active JP5695080B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US28712009P 2009-12-16 2009-12-16
US61/287,120 2009-12-16
PCT/US2010/060851 WO2011084639A2 (en) 2009-12-16 2010-12-16 Resolution based formatting of compressed image data

Publications (3)

Publication Number Publication Date
JP2013515395A JP2013515395A (ja) 2013-05-02
JP2013515395A5 JP2013515395A5 (ja) 2015-01-29
JP5695080B2 true JP5695080B2 (ja) 2015-04-01

Family

ID=44151202

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012544852A Active JP5695080B2 (ja) 2009-12-16 2010-12-16 圧縮画像データの解像度ベースのフォーマット

Country Status (6)

Country Link
US (3) US8611652B2 (ja)
EP (1) EP2513861B1 (ja)
JP (1) JP5695080B2 (ja)
ES (1) ES2628010T3 (ja)
TW (1) TWI455571B (ja)
WO (1) WO2011084639A2 (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8611652B2 (en) 2009-12-16 2013-12-17 Red.Com, Inc. Resolution based formatting of compressed image data
JP5640370B2 (ja) * 2009-12-18 2014-12-17 ソニー株式会社 画像処理装置,画像処理方法及び撮像装置
JPWO2012132624A1 (ja) 2011-03-29 2014-07-24 ルネサスエレクトロニクス株式会社 表示装置及び表示装置制御回路
JP5474887B2 (ja) * 2011-08-01 2014-04-16 株式会社ソニー・コンピュータエンタテインメント 動画データ生成装置、動画像表示装置、動画データ生成方法、動画像表示方法、および動画像ファイルのデータ構造
US20130166767A1 (en) * 2011-11-23 2013-06-27 General Electric Company Systems and methods for rapid image delivery and monitoring
CN102695057B (zh) * 2012-05-25 2014-11-19 西安空间无线电技术研究所 一种用于图像数据的压缩系统
JP5749401B2 (ja) * 2012-06-11 2015-07-15 富士フイルム株式会社 画像処理装置、撮像装置、コンピュータ、画像処理方法及びプログラム
US20140294314A1 (en) * 2013-04-02 2014-10-02 Samsung Display Co., Ltd. Hierarchical image and video codec
CN104125461B (zh) * 2013-04-27 2017-06-23 深圳市振华微电子有限公司 一种大尺寸的图像压缩处理系统及方法
US9549161B2 (en) 2013-07-08 2017-01-17 Samsung Display Co., Ltd. Image and video in mosaic formats
US10045029B2 (en) * 2014-05-06 2018-08-07 Intel Corporation Clustering and encoding for color compression
GB2532063A (en) * 2014-11-07 2016-05-11 Sony Corp A method, server, client and software
US9734597B2 (en) * 2015-12-18 2017-08-15 Intel Corporation Interpolated minimum-maximum compression/decompression for efficient processing of graphics data at computing devices
JP2017143355A (ja) * 2016-02-08 2017-08-17 キヤノン株式会社 画像符号化装置及び方法及び撮像装置
JP6702602B2 (ja) * 2016-08-25 2020-06-03 Necディスプレイソリューションズ株式会社 自己画像診断方法、自己画像診断プログラム、ディスプレイ装置、及び自己画像診断システム
KR102620350B1 (ko) 2017-07-05 2024-01-02 레드.컴, 엘엘씨 전자 디바이스에서의 비디오 이미지 데이터 처리
JP7065594B2 (ja) * 2017-12-08 2022-05-12 キヤノン株式会社 画像符号化装置及びその制御方法、並びにプログラム
GB2583061B (en) * 2019-02-12 2023-03-15 Advanced Risc Mach Ltd Data processing systems
US20210398322A1 (en) * 2020-06-17 2021-12-23 Palantir Technologies Inc. Approaches for compressing and distributing image data
US11647193B2 (en) 2020-12-18 2023-05-09 Meta Platforms Technologies, Llc Adaptive range packing compression
US11270468B1 (en) * 2020-12-18 2022-03-08 Facebook Technologies, Llc. Joint color image and texture data compression
US20220417537A1 (en) * 2021-06-23 2022-12-29 Black Sesame International Holding Limited Unprocessed image coding and decoding

Family Cites Families (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6549666B1 (en) 1994-09-21 2003-04-15 Ricoh Company, Ltd Reversible embedded wavelet system implementation
US5875122A (en) 1996-12-17 1999-02-23 Intel Corporation Integrated systolic architecture for decomposition and reconstruction of signals using wavelet transforms
US6272180B1 (en) * 1997-11-21 2001-08-07 Sharp Laboratories Of America, Inc. Compression and decompression of reference frames in a video decoder
US6154493A (en) * 1998-05-21 2000-11-28 Intel Corporation Compression of color images based on a 2-dimensional discrete wavelet transform yielding a perceptually lossless image
US6124811A (en) 1998-07-02 2000-09-26 Intel Corporation Real time algorithms and architectures for coding images compressed by DWT-based techniques
US6778709B1 (en) * 1999-03-12 2004-08-17 Hewlett-Packard Development Company, L.P. Embedded block coding with optimized truncation
FR2792432B1 (fr) 1999-04-15 2001-07-13 Canon Kk Dispositif et procede de transformation de signal numerique
US7372485B1 (en) * 1999-06-08 2008-05-13 Lightsurf Technologies, Inc. Digital camera device and methodology for distributed processing and wireless transmission of digital images
US6798901B1 (en) 1999-10-01 2004-09-28 Intel Corporation Method of compressing a color image
JP2001290820A (ja) * 2000-01-31 2001-10-19 Mitsubishi Electric Corp 映像収集装置、映像検索装置および映像収集検索システム
US6549674B1 (en) * 2000-10-12 2003-04-15 Picsurf, Inc. Image compression based on tiled wavelet-like transform using edge and non-edge filters
US6785423B1 (en) * 2000-05-26 2004-08-31 Eastman Kodak Company Producing a compressed digital image organized into layers having information relating to different viewing conditions and resolutions
TW594627B (en) * 2001-05-09 2004-06-21 Clairvoyante Lab Inc Conversion of a sub-pixel format data to another sub-pixel data format
FR2826823B1 (fr) * 2001-06-27 2003-10-10 Canon Kk Procede et dispositif de traitement d'un signal numerique code
US20030112863A1 (en) 2001-07-12 2003-06-19 Demos Gary A. Method and system for improving compressed image chroma information
JP4267848B2 (ja) 2001-09-25 2009-05-27 株式会社リコー 画像符号化装置、画像復号装置、画像符号化方法、及び、画像復号方法
JP2003125331A (ja) * 2001-10-17 2003-04-25 Fuji Photo Film Co Ltd 画像記録方法及び装置、並びに画像再生方法及び装置
US7403564B2 (en) * 2001-11-21 2008-07-22 Vixs Systems, Inc. System and method for multiple channel video transcoding
JP3922919B2 (ja) * 2001-12-11 2007-05-30 株式会社リコー 静止画像伸長装置及び静止画像伸長方法
US6956976B2 (en) * 2002-01-04 2005-10-18 Warner Bros. Enterianment Inc. Reduction of differential resolution of separations
US7330596B2 (en) 2002-07-17 2008-02-12 Ricoh Company, Ltd. Image decoding technique for suppressing tile boundary distortion
JP4262017B2 (ja) * 2002-09-26 2009-05-13 キヤノン株式会社 画像生成装置及びその方法
JP3928859B2 (ja) * 2002-11-11 2007-06-13 株式会社リコー 画像処理装置、画像処理方法、プログラム及び記録媒体
KR100939711B1 (ko) * 2002-12-12 2010-02-01 엘지전자 주식회사 텍스트 기반의 서브타이틀 재생장치 및 방법
JP2004221836A (ja) 2003-01-14 2004-08-05 Ricoh Co Ltd 画像処理装置、プログラム、記憶媒体及び符号伸長方法
JP2004248152A (ja) * 2003-02-17 2004-09-02 Ricoh Co Ltd 画像圧縮装置、画像伸張装置、画像圧縮方法、画像伸張方法、プログラム、及び記録媒体
US7460131B2 (en) * 2003-09-30 2008-12-02 Sharp Laboratories Of America, Inc. Methods and systems for processing image data for display on LC displays
US8832434B2 (en) * 2004-02-13 2014-09-09 Hewlett-Packard Development Company, L.P. Methods for generating data for describing scalable media
US7504968B2 (en) * 2004-02-13 2009-03-17 Hewlett-Packard Development Company, L.P. Media data decoding device
US6989773B2 (en) * 2004-02-13 2006-01-24 Hewlett-Packard Development Company, L.P. Media data encoding device
KR100689430B1 (ko) * 2004-12-16 2007-03-08 삼성전자주식회사 디지털 홈 서비스에서 하이브리드 모니터링을 통한 동적서비스 품질 매핑 장치 및 방법
TWI259725B (en) * 2005-04-28 2006-08-01 Benq Corp Methods and systems for transmitting AV information
JP4716949B2 (ja) 2005-09-02 2011-07-06 株式会社リコー 画像処理装置および画像処理方法
JP4688165B2 (ja) * 2005-09-30 2011-05-25 株式会社リコー 画像処理装置及び画像処理方法
US7796836B2 (en) 2006-03-03 2010-09-14 General Atomics Color condensation for image transformation and/or compression
US8014597B1 (en) * 2006-03-22 2011-09-06 Woodman Labs Method for efficient compression and decoding of single sensor color image data
MX2009010926A (es) 2007-04-11 2009-12-01 Red Com Inc Camara de video.
US8237830B2 (en) 2007-04-11 2012-08-07 Red.Com, Inc. Video camera
US8149319B2 (en) 2007-12-03 2012-04-03 Ricoh Co., Ltd. End-to-end design of electro-optic imaging systems for color-correlated objects
JP5158096B2 (ja) * 2008-01-08 2013-03-06 日本電気株式会社 符号化用データ生成装置、符号化用データ生成方法、復号装置および復号方法
US8611652B2 (en) 2009-12-16 2013-12-17 Red.Com, Inc. Resolution based formatting of compressed image data

Also Published As

Publication number Publication date
US20140176734A1 (en) 2014-06-26
EP2513861A2 (en) 2012-10-24
US8611652B2 (en) 2013-12-17
EP2513861A4 (en) 2014-03-26
JP2013515395A (ja) 2013-05-02
US20170099475A1 (en) 2017-04-06
EP2513861B1 (en) 2017-05-10
WO2011084639A3 (en) 2011-10-13
US20110150330A1 (en) 2011-06-23
US9906764B2 (en) 2018-02-27
ES2628010T3 (es) 2017-08-01
TW201143353A (en) 2011-12-01
US9479749B2 (en) 2016-10-25
WO2011084639A2 (en) 2011-07-14
TWI455571B (zh) 2014-10-01

Similar Documents

Publication Publication Date Title
JP5695080B2 (ja) 圧縮画像データの解像度ベースのフォーマット
US9596385B2 (en) Electronic apparatus
TWI555386B (zh) 原始格式影像資料處理技術
US9516197B2 (en) Apparatus and method for lossless compression of raw color sensor data from a color array filtered image sensor
EP1769459A1 (en) Image compression for rapid high-quality imaging
AU2016213747B2 (en) Video camera
JP2023070055A (ja) 画像符号化装置及びその制御方法及びプログラム
AU2012216606A1 (en) Video camera

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140403

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20140403

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20140604

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140606

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140901

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140908

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20141001

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20141008

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20141105

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20141112

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20141208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150205

R150 Certificate of patent or registration of utility model

Ref document number: 5695080

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250