JP2005184518A - Image processor, image processing method and program - Google Patents
Image processor, image processing method and program Download PDFInfo
- Publication number
- JP2005184518A JP2005184518A JP2003423045A JP2003423045A JP2005184518A JP 2005184518 A JP2005184518 A JP 2005184518A JP 2003423045 A JP2003423045 A JP 2003423045A JP 2003423045 A JP2003423045 A JP 2003423045A JP 2005184518 A JP2005184518 A JP 2005184518A
- Authority
- JP
- Japan
- Prior art keywords
- image
- partial image
- data
- partial
- screen
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
Description
本発明は電子カメラ等の画像処理装置に関し、特に間引き読み出し等による部分画像データに基づいて1画面分の画像データを得る場合に、画像処理の一層の高速化を図ることができる画像処理装置に関する。 The present invention relates to an image processing apparatus such as an electronic camera, and more particularly to an image processing apparatus capable of further speeding up image processing when obtaining image data for one screen based on partial image data obtained by thinning readout or the like. .
従来から、撮像素子から読み出された画像信号に画像処理を施して、被写体像の撮影画像データを生成する電子カメラは公知であり、スチル撮影画像の連写モードを備えた電子カメラも広く実用化されている。この電子カメラの連写モードでは、間引き読み出し、画素結合読み出し、部分読み出し等によって撮像素子の任意の複数ラインまたは任意のエリアから画像信号を部分的に読み出すことで、画像信号の読み出し時間を減少させる場合も多い。 Conventionally, electronic cameras that perform image processing on image signals read from an image sensor and generate captured image data of a subject image are known, and electronic cameras with a continuous shooting mode for still images are also widely used. It has become. In the continuous shooting mode of this electronic camera, the readout time of the image signal is reduced by partially reading out the image signal from any multiple lines or any area of the image sensor by thinning readout, pixel combination readout, partial readout, etc. There are many cases.
上記の間引き読み出し等の場合において、全画素読み出しの場合と同様に撮影画像データをそのまま生成すると、垂直方向または水平方向のいずれか一方に撮影画像がつぶれた状態や、撮影画像のサイズが縮小された状態となってしまう。そのため、電子カメラで間引き読み出し等を行う場合には、読み出した画像信号を補間して1画面の画像サイズに戻した後で、画像処理や圧縮符号化処理を施すことが一般的である。 In the case of the above thinning-out readout, etc., if the captured image data is generated as it is in the case of all pixel readout, the state in which the captured image is crushed in either the vertical direction or the horizontal direction, or the size of the captured image is reduced. It will be in a state. Therefore, when thinning readout or the like is performed with an electronic camera, it is common to perform image processing or compression coding processing after interpolating the read image signal to restore the image size of one screen.
また、特許文献1には、画像データを直交変換した後に直交変換係数の高周波域側に0値を付加して画像データの解像度変換を行う技術が開示されている。
ここで、電子カメラの連写性能を向上させるためには、画像の画素数がより少ない状態で画像処理する方が、画像処理部の演算量が減少するので有利である。しかし、上記のように画像信号を補間した後で画像処理を行う場合、画像処理部の演算量は全画素読み出し時の場合と同じ演算量となってしまう。つまり、上記の間引き読み出し等で画像信号の読み出し時間を減少させてもその後の補間処理で画素数は増加するので、画像処理部の処理速度により連写性能が制約されてしまう場合がある。 Here, in order to improve the continuous shooting performance of the electronic camera, it is advantageous to perform image processing in a state where the number of pixels of the image is smaller because the amount of calculation of the image processing unit is reduced. However, when image processing is performed after interpolating the image signal as described above, the calculation amount of the image processing unit is the same as that when reading all pixels. That is, even if the readout time of the image signal is reduced by the above-described thinning readout or the like, the number of pixels is increased by the subsequent interpolation processing, and thus the continuous shooting performance may be limited by the processing speed of the image processing unit.
また、特許文献1によれば、間引き読み出し等の場合の撮影画像データが垂直方向または水平方向のいずれか一方に撮影画像がつぶれたままの状態で拡大されるので、上記の課題はなお解決しない。さらに、特許文献1では離散コサイン変換に基づく解像度変換のみが開示され、他の直交変換(例えば、離散ウエーブレット変換など)による解像度変換の具体的手法は開示されていない。
Further, according to
本発明は上記従来技術の課題を解決するためのものであり、その目的は、1画面の任意の複数ライン等から画像信号を読み出した場合において、画像処理部の演算負荷軽減によって連写性能を向上させ、かつ撮影画像を通常の再生方法で問題なく表示できる画像処理装置を実現することである。 The present invention is to solve the above-described problems of the prior art, and its purpose is to reduce continuous load performance by reducing the calculation load of the image processing unit when an image signal is read out from an arbitrary plurality of lines on one screen. An object of the present invention is to realize an image processing apparatus that can improve and display a photographed image without any problem by a normal reproduction method.
請求項1の発明は、1画面の任意の複数ラインまたは任意のエリアに対応する部分画像の画像信号を出力する撮像部と、前記部分画像の画像信号に画像処理を施して部分画像データを生成する画像処理部と、前記1画面に対する前記部分画像の縦横の縮小率に基づいて、画像の縮小で不足する高周波域部分を除いて前記部分画像データを直交変換する直交変換手段と、該直交変換後のデータに対して、ノイズレベルより小さい値を高周波域側に付加して前記部分画像の画像サイズを変更する解像度変換手段と、該解像度変換後のデータから圧縮データを生成する圧縮データ生成手段と、を有することを特徴とする画像処理装置である。 According to the first aspect of the present invention, an image pickup unit that outputs an image signal of a partial image corresponding to an arbitrary plurality of lines or an arbitrary area of one screen, and partial image data are generated by performing image processing on the image signal of the partial image. An image processing unit that performs orthogonal transformation on the partial image data excluding a high-frequency region that is insufficient for image reduction based on a vertical / horizontal reduction ratio of the partial image with respect to the one screen, and the orthogonal transformation Resolution conversion means for changing the image size of the partial image by adding a value smaller than the noise level to the high frequency side with respect to the later data, and compressed data generation means for generating compressed data from the data after the resolution conversion And an image processing apparatus.
請求項2の発明は、請求項1の発明において、前記解像度変換手段は、前記1画面に対する前記部分画像の縦横の縮小率に基づいて、画像の縮小で不足する高周波域部分に前記小さい値を付加して、水平方向または垂直方向の少なくとも一方の画像サイズを変更することを特徴とする。
請求項3の発明は、請求項1または請求項2の発明において、前記撮像部は、間引き読み出し、画素結合読み出し、部分読み出しのいずれかで、前記部分画像の画像信号を出力することを特徴とする。
According to a second aspect of the present invention, in the first aspect of the invention, the resolution converting means applies the small value to a high frequency region portion that is insufficient for image reduction based on a vertical / horizontal reduction ratio of the partial image with respect to the one screen. In addition, the image size of at least one of the horizontal direction and the vertical direction is changed.
According to a third aspect of the invention, in the first or second aspect of the invention, the imaging unit outputs an image signal of the partial image by any one of thinning readout, pixel combination readout, and partial readout. To do.
請求項4の発明は、請求項1から請求項3の発明において、前記直交変換手段は、離散コサイン変換または離散ウェーブレット変換によって前記部分画像データに直交変換を行うことを特徴とする。
請求項5の発明は、1画面の任意の複数ラインまたは任意のエリアに対応する部分画像の画像信号に画像処理を施して部分画像データを生成する工程と、前記1画面に対する前記部分画像の縦横の縮小率に基づいて、画像の縮小で不足する高周波域部分を除いて前記部分画像データを直交変換する工程と、該直交変換後のデータに対して、ノイズレベルより小さい値を高周波域側に付加して前記部分画像の画像サイズを変更する工程と、該解像度変換後のデータから圧縮データを生成する工程と、を有することを特徴とする画像処理方法である。
According to a fourth aspect of the present invention, in the first to third aspects of the present invention, the orthogonal transform unit performs orthogonal transform on the partial image data by discrete cosine transform or discrete wavelet transform.
According to a fifth aspect of the present invention, there is provided a step of performing image processing on an image signal of a partial image corresponding to an arbitrary plurality of lines or an arbitrary area of one screen to generate partial image data, and the vertical and horizontal directions of the partial image for the one screen A step of orthogonally transforming the partial image data excluding a high-frequency region that is insufficient for image reduction based on the reduction ratio of the image, and a value smaller than the noise level for the data after the orthogonal transformation on the high-frequency region side An image processing method comprising: a step of adding and changing an image size of the partial image; and a step of generating compressed data from the data after the resolution conversion.
請求項6の発明は、1画面の任意の複数ラインまたは任意のエリアに対応する部分画像の画像信号に画像処理を施して部分画像データを生成する工程と、前記1画面に対する前記部分画像の縦横の縮小率に基づいて、画像の縮小で不足する高周波域部分を除いて前記部分画像データを直交変換する工程と、該直交変換後のデータに対して、ノイズレベルより小さい値を高周波域側に付加して前記部分画像の画像サイズを変更する工程と、該解像度変換後のデータから圧縮データを生成する工程と、をコンピュータに実行させるためのプログラムである。 According to a sixth aspect of the present invention, a step of performing image processing on an image signal of a partial image corresponding to an arbitrary plurality of lines or an arbitrary area of one screen to generate partial image data, and the vertical and horizontal directions of the partial image with respect to the one screen. A step of orthogonally transforming the partial image data excluding a high-frequency region that is insufficient for image reduction based on the reduction ratio of the image, and a value smaller than the noise level for the data after the orthogonal transformation on the high-frequency region side A program for causing a computer to execute a step of adding and changing the image size of the partial image and a step of generating compressed data from the data after the resolution conversion.
本発明では、1画面の任意の複数ラインまたは任意のエリアに対応する部分画像の画像信号から部分画像データを生成し、直交変換を行った後に解像度変換で画像サイズを拡大する。すなわち、本発明では、部分画像の画像信号の分だけ画像処理すれば済むので画像処理部の演算負荷を格段に抑制することができ、電子カメラ等の画像処理部の演算速度を上げることなく連写性能を向上させることができる。また、解像度変換後の部分画像データは、補間後に画像処理等を行った場合とほぼ同等の状態となるので、最終的な圧縮データは通常の再生方法で問題なく表示可能である。 In the present invention, partial image data is generated from an image signal of a partial image corresponding to an arbitrary plurality of lines or an arbitrary area of one screen, and after performing orthogonal transform, the image size is enlarged by resolution conversion. That is, according to the present invention, since it is only necessary to perform image processing for the image signal of the partial image, it is possible to remarkably reduce the calculation load of the image processing unit, and without increasing the calculation speed of the image processing unit such as an electronic camera. The copying performance can be improved. Further, since the partial image data after resolution conversion is in a state almost the same as when image processing or the like is performed after interpolation, the final compressed data can be displayed without any problem by a normal reproduction method.
以下、図面に基づいて本発明の実施の形態を詳細に説明する。
(第1実施形態の説明)
第1実施形態は、画像処理装置が電子カメラであって、撮影画像データをJPEG(Joint Photographic Experts Group)形式で記録する例である。この第1実施形態は、請求項1から請求項4の画像処理装置、請求項5の画像処理方法、請求項6のプログラムに対応する。
Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
(Description of the first embodiment)
The first embodiment is an example in which the image processing apparatus is an electronic camera and photographic image data is recorded in a JPEG (Joint Photographic Experts Group) format. The first embodiment corresponds to the image processing apparatus according to
第1実施形態の電子カメラは、1画面に対する部分画像の縦横の縮小率に基づいて、画像の縮小で不足する高周波域部分を除いたサイズの処理単位ごとに部分画像データを直交変換する直交変換手段と、該直交変換後の部分画像データに対して、ノイズレベルより小さい値を高周波域側に付加して部分画像の画像サイズを変更する解像度変換手段と、を有している。 The electronic camera according to the first embodiment performs orthogonal transform that orthogonally transforms partial image data for each processing unit of a size excluding a high-frequency region portion that is insufficient for image reduction based on the vertical and horizontal reduction ratios of the partial image for one screen. And resolution conversion means for changing the image size of the partial image by adding a value smaller than the noise level to the high-frequency region side with respect to the partial image data after the orthogonal transformation.
(第1実施形態の構成)
第1実施形態の電子カメラの構成を図1に示す。第1実施形態の電子カメラ100は、撮像素子1と、アナログ処理回路2と、A/D変換回路3と、CPU4と、ASIC5と、画像データを一時待避させるバッファメモリ6と、画像データが最終的に格納される記録媒体7と、撮像素子1の駆動パルス等を生成する撮像素子駆動回路8と、システムバス9と、を有している。
(Configuration of the first embodiment)
The configuration of the electronic camera of the first embodiment is shown in FIG. The
撮像素子1の受光面には、光電変換を行う受光素子(フォトダイオード)が2次元配列されている。撮像素子1の受光素子が配列された領域には、受光素子の列単位に垂直読み出し線がそれぞれ設けられている。そして、これらの垂直読み出し線の出力端には水平読み出し線が設けられており、この水平読み出し線の出力はアナログ処理回路2に接続されている。この撮像素子1の受光素子が配置された領域は、画像データ用の画像信号を生成する有効画素領域と、黒レベルの基準信号を生成するオプティカルブラック領域とに区画されている。
On the light receiving surface of the
また、有効画素領域には、赤(R)、緑(G)、青(B)の各色光を透過させるカラーフィルタを規則的に配列したベイヤー配列のカラーフィルタが配置されており、被写体像はR,G,Bの画像信号に変換される。なお、ベイヤー配列では、奇数列にR,Gのフィルタが交互に並び、偶数列にG,Bのフィルタが交互に並び、Gのフィルタは全体で市松模様をなしている。 In the effective pixel area, a Bayer color filter in which color filters that transmit red (R), green (G), and blue (B) light are regularly arranged is arranged. It is converted into R, G, B image signals. In the Bayer array, R and G filters are alternately arranged in odd-numbered columns, G and B filters are alternately arranged in even-numbered columns, and the G filters have a checkered pattern as a whole.
さらに、撮像素子1は、順次走査で1画面を構成する全画素の画像信号を出力する「高画質モード」と、1画面の任意の複数ラインまたは任意のエリアに対応する部分画像の画像信号を選択的に出力する「高速モード」とのいずれかで駆動される。この「高速モード」は、撮像素子1の間引き読み出し、画素結合読み出し、部分読み出しのいずれかによって実現される。
Further, the
ここで、間引き読み出しとは、撮像素子1の任意のラインを間引いて画像信号を読み出すことで部分画像を抽出する方式である。図2は間引き読み出し方式の1例を示す図であって、撮像素子は垂直方向の4ライン毎に2ラインの画像信号を順番に出力する。つまり、撮像素子は、最初に1ライン目の画像信号(R,G)を出力し、次に2ライン目の画像信号(G,B)を出力する。続いて、撮像素子は2ライン目の画像信号の出力終了後に5ライン目の画像信号を出力し、その後に6ライン目の画像信号を出力し、以降、同じ処理を繰り返す。この図2の例では、撮像素子1の読み出しライン数が全体の2分の1となる。なお、図2はあくまで間引き読み出しの1例であって、間引き読み出しするライン数や、読み出し間隔等は適宜変更することができる。
Here, the thinning readout is a method of extracting a partial image by thinning out an arbitrary line of the
また、画素結合読み出しとは、撮像素子の異なる画素の電荷を加算して読み出すことで部分画像を抽出する方式である。図3は画素結合読み出し方式の1例を示す図であって、撮像素子1は垂直方向の4ライン毎に2ラインの画像信号を加算して出力する。つまり、撮像素子は、最初に1ライン目および3ライン目の画像信号(R,G)を加算して出力し、続いて2ライン目および4ライン目の画像信号(G,B)を加算して出力し、以降、同じ処理を繰り返す。図3の例では、撮像素子1の読み出しライン数が全体の2分の1となるとともに、転送時の電荷加算によって電荷量が2倍に増大するので、それに対応した感度増大効果を得ることができる。なお、図3はあくまで画素結合読み出しの1例であって、電荷を加算するライン数や、読み出し間隔等は適宜変更することができる。
Pixel combined readout is a method of extracting partial images by adding and reading out charges from different pixels of the image sensor. FIG. 3 is a diagram illustrating an example of the pixel combination readout method. The
さらに、部分読み出しとは、例えば、図4に示すように、有効画素領域の任意のエリアを切り出して、該エリアの画像信号を読み出す方式である。
アナログ処理回路2は、相関二重サンプリングによって画像信号等のノイズ成分を低減するCDS回路と、ノイズ除去後の画像信号等の出力を増幅するゲイン回路と、入力信号の波形の特定部分を一定の電圧レベルにクランプするクランプ回路とから構成される。また、A/D変換回路3は、アナログ処理回路2から出力された画像信号をA/D変換して、デジタル画像信号を出力する。
Furthermore, the partial reading is a method of cutting out an arbitrary area of the effective pixel area and reading out an image signal of the area as shown in FIG. 4, for example.
The
CPU4は、システムバス9を介して電子カメラ100の各部の動作を制御し、電子カメラ100の合焦制御、露光制御等に必要な演算処理を実行する。また、CPU4は、撮像素子駆動回路7を介して撮像素子1の読み出しモードを制御し、後述の圧縮処理における各種の制御を行う。
ASIC5は、画像処理回路10と、圧縮処理回路11とを有している。
The
The
画像処理回路10は、A/D変換回路3から出力された部分画像のデジタル画像信号に対して、輪郭補償やガンマ補正、ホワイトバランス調整などの各種画像処理を行い、部分画像データを生成する。なお、この段階での部分画像データは、1画面の画像サイズに対して縦または横の少なくとも一方が縮小された状態となっている。
圧縮処理回路11は、上記の部分画像データの圧縮処理を実行する。図5に示すように、圧縮処理回路11は、ブロック化部20と、離散コサイン変換部(DCT:Discrete Cosine Transform)21と、量子化部22と、解像度変換部23と、可変長符号化部24とを有している。
The
The
(第1実施形態の動作)
以下、第1実施形態の電子カメラの一連の動作を図6の流れ図に従って説明する。
ステップS101:シャッタレリーズにより、CPU4は、撮像素子駆動回路8を介して撮像素子1を駆動させる。撮像素子1は、被写体像を光電変換して画像信号を生成し、例えば、図2の間引き読み出しなどによって部分画像の画像信号を出力する。
(Operation of the first embodiment)
Hereinafter, a series of operations of the electronic camera of the first embodiment will be described with reference to the flowchart of FIG.
Step S101: With the shutter release, the
ステップS102:部分画像の画像信号は、アナログ処理回路2で所定のアナログ処理が施された後、A/D変換回路3でデジタル化される。
ステップS103:A/D変換回路3から出力された部分画像の画像信号は、ASIC5に入力される。そして、ASIC5内の画像処理回路10は、部分画像の画像信号に画像処理を施して部分画像データを生成し、圧縮処理回路11に出力する。
Step S102: The image signal of the partial image is subjected to predetermined analog processing by the
Step S103: The image signal of the partial image output from the A /
なお、この段階での部分画像データは、1画面の画像サイズに対して縦または横の少なくとも一方が縮小された状態となっており、通常のJPEG圧縮符号化を行えば、再生される画像は部分画像の画像サイズのままとなる。例えば、図2の間引き読み出しの場合であれば、部分画像データは、画像サイズが縦方向のみ1/2にされたままの状態となっている。 Note that the partial image data at this stage is in a state in which at least one of the vertical and horizontal sizes is reduced with respect to the image size of one screen, and if the normal JPEG compression encoding is performed, the reproduced image is The image size of the partial image remains unchanged. For example, in the case of thinning readout in FIG. 2, the partial image data remains in a state where the image size is halved only in the vertical direction.
ステップS104:圧縮処理回路11のブロック化部20は、部分画像データ全体をブロックと呼ばれる処理単位に分割する。各ブロックには、後述の一連の処理が独立に施される。
ここで、ブロック化部20は、1画面に対する部分画像の縦横の縮小率に対応して、画像の縮小で不足する高周波域部分を除いたサイズのブロックで部分画像データを分割する。すなわち、ブロック化部20は、部分画像データを処理する場合には、1画面の画像データを分割するときのブロック(以下、「基本ブロック」と称する)では部分画像データを分割しない。
Step S104: The blocking
Here, the
例えば、図2の間引き読み出しの場合には、以下のように部分画像データが分割される。仮に基本ブロックが8×8画素のとき、図2の部分画像は縦方向の画像サイズが1/2にされているので、ブロック化部20は、基本ブロック(8×8画素)のブロックを縦方向に1/2にして、4×8画素のブロックでブロック化を行う(図7参照)。
ステップS105:DCT部21は、ブロック単位の部分画像データに離散コサイン変換を施してDCT係数に変換する。DCT部21から出力されるデータは、上記のブロックに対応したサイズのDCT係数となる。
For example, in the case of thinning-out reading in FIG. 2, the partial image data is divided as follows. If the basic block is 8 × 8 pixels, the partial image in FIG. 2 has the vertical image size halved, so the blocking
Step S105: The
ステップS106:量子化部22は、上記のブロックに対応した量子化行列を用いてDCT係数を量子化する。
ステップS107:解像度変換部23は、量子化されたDCT係数の解像度変換を行って、データを基本ブロックに対応するように拡大する。具体的には、解像度変換部23は、DCT係数の高周波域側に、画像の縮小により不足した分だけ0値を付加して、基本ブロックのサイズに対応するDCT係数を出力する。
Step S106: The quantization unit 22 quantizes the DCT coefficient using the quantization matrix corresponding to the above block.
Step S107: The
例えば、図2の間引き読み出しの場合には、部分画像の縦方向の画像サイズが1/2にされているので、解像度変換部23は、縦方向に4列分の0値を付加してDCT係数の行列を8×8に変更する(図7参照)。これにより、解像度変換部23から出力される画像全体のサイズは1画面分の画像サイズに復元される。
ステップS108:可変長符号化部24は、解像度変換部23から出力されるDCT係数を、平均符号長が短くなるように可変長符号化して圧縮データを出力する。この圧縮データは最終的に記録媒体7に格納される。以上で、第1実施形態の電子カメラの一連の動作が終了する。
For example, in the case of thinning readout in FIG. 2, since the vertical image size of the partial image is halved, the
Step S108: The variable
(第1実施形態の効果)
第1実施形態では、画像処理部が部分画像データを生成し、この部分画像データを補間することなくDCTを行って、その後にDCT係数の高周波域側に0値を付加して画像サイズを1画面に対応するように復元する。したがって、画像処理部は、部分画像の画像信号の分だけ画像処理すれば済むので演算負荷を格段に抑制することができ、画像処理部の演算速度を上げることなく連写性能を向上させることができる。また、部分読み出しの場合には、画面の一部を切り出したデジタルズーム画像を高速で得ることができる。
(Effect of 1st Embodiment)
In the first embodiment, the image processing unit generates partial image data, performs DCT without interpolating the partial image data, and then adds a 0 value to the high frequency side of the DCT coefficient to set the image size to 1. Restore to correspond to the screen. Therefore, since the image processing unit only needs to perform image processing for the image signal of the partial image, the calculation load can be significantly reduced, and continuous shooting performance can be improved without increasing the calculation speed of the image processing unit. it can. In the case of partial reading, a digital zoom image obtained by cutting out a part of the screen can be obtained at high speed.
さらに、最終的に出力される圧縮データは、1画面に対する部分画像の縦横の縮小率に対応して拡大され、補間後に画像処理等を行った場合とほぼ同等の状態となるので、最終的な圧縮データは通常のJPEGの伸張処理で問題なく表示可能である。
(第2実施形態の説明)
第2実施形態は、画像処理装置が電子カメラであって、撮影画像データをJPEG2000形式で記録する例である。第2実施形態は、1画面に対する部分画像の画像サイズの縦比率および横比率が1:2n(但し、n≦0)の場合に適用できる。この第2実施形態は、請求項1から請求項4の画像処理装置、請求項5の画像処理方法、請求項6のプログラムに対応する。
Further, the finally output compressed data is enlarged corresponding to the vertical and horizontal reduction ratios of the partial image for one screen, and is in a state almost the same as when image processing or the like is performed after interpolation. The compressed data can be displayed without any problem by normal JPEG decompression processing.
(Description of Second Embodiment)
The second embodiment is an example in which the image processing apparatus is an electronic camera and the captured image data is recorded in the JPEG2000 format. The second embodiment can be applied when the aspect ratio and the aspect ratio of the image size of the partial image for one screen are 1: 2 n (where n ≦ 0). The second embodiment corresponds to the image processing apparatus according to
第2実施形態の電子カメラは、1画面に対する部分画像の縦横の縮小率に基づいて、水平方向および垂直方向のサブバンド分割の回数を調整し、画像の縮小で不足する高周波域部分を除いて部分画像データをウェーブレット変換する直交変換手段と、該直交変換後の部分画像データに対して、ノイズレベルより小さい値を高周波域側に付加して部分画像の画像サイズを変更する解像度変換手段と、を有している。 The electronic camera according to the second embodiment adjusts the number of horizontal and vertical subband divisions based on the vertical and horizontal reduction ratios of the partial image for one screen, and removes the high-frequency region portion that is insufficient for image reduction. Orthogonal transform means for wavelet transforming the partial image data, and resolution transform means for changing the image size of the partial image by adding a value smaller than the noise level to the high frequency region side for the partial image data after the orthogonal transform, have.
(第2実施形態の構成)
図8は、第2実施形態の圧縮処理回路11の構成を示す図である。なお、圧縮処理回路11以外の構成は第1実施形態と同様であるので、他の構成の説明は省略する。
第2実施形態の圧縮処理回路11は、DCレベルシフト部30と、色変換部31と、離散ウェーブレット変換部(DWT:Discrete Wavelet Transform)32と、量子化部33と、解像度変換部34と、ビットモデリング部35と、算術符号化部36と、ビットストリーム生成部37とを有している。
(Configuration of Second Embodiment)
FIG. 8 is a diagram illustrating a configuration of the
The
(第2実施形態の動作)
以下、第2実施形態の電子カメラの一連の動作を図9の流れ図に従って説明する。なお、ステップS201〜S203は、第1実施形態のステップS101〜S103に対応するので説明を省略する。
ステップS204:DCレベルシフト部30は、信号値が正の値の場合にダイナミックレンジを半分の値に減算してレベルシフトを行う。
(Operation of Second Embodiment)
Hereinafter, a series of operations of the electronic camera of the second embodiment will be described with reference to the flowchart of FIG. Note that steps S201 to S203 correspond to steps S101 to S103 of the first embodiment, and a description thereof will be omitted.
Step S204: When the signal value is a positive value, the DC
ステップS205:色変換部31は、入力されたRGBの部分画像データに色座標変換を施してYCbCrなどの色コンポーネントに変換する。
ステップS206:DWT部32は、色コンポーネントごとに離散ウェーブレット変換を施し、各コンポーネントをサブバンド成分に周波数分解する。このとき、DWT部32は、1画面に対する部分画像の縦横の縮小率に対応して、水平方向と垂直方向とでサブバンド分割の回数を調整する。これにより、画像の縮小で不足する高周波域部分を除いて部分画像データを離散ウェーブレット変換する。
Step S205: The
Step S206: The DWT unit 32 performs discrete wavelet transform for each color component, and frequency-decomposes each component into subband components. At this time, the DWT unit 32 adjusts the number of subband divisions in the horizontal direction and the vertical direction in accordance with the vertical and horizontal reduction ratios of the partial image for one screen. As a result, the partial image data is subjected to discrete wavelet transform, excluding the high-frequency region that is insufficient for image reduction.
例えば、図2に示す間引き読み出しの場合には、部分画像の画像サイズは縦方向にのみ1/2にされているので、DWT部32は、分解レベル1では垂直方向のサブバンド分割を行わず、水平方向のみサブバンド分割する。そして、分解レベル2では、DWT部32は、サブバンド1LLに対して垂直方向および水平方向にサブバンド分割を行う(図10参照)。
For example, in the case of thinning readout shown in FIG. 2, the image size of the partial image is halved only in the vertical direction, so the DWT unit 32 does not perform vertical subband division at the
ステップS207:量子化部33は、必要に応じてウェーブレット変換係数を量子化する。
ステップS208:解像度変換部34は、画像の縮小により不足した分だけウェーブレット変換係数の高周波域側に0値を付加することで、欠落する高周波域側のサブバンドを生成する。
Step S207: The
Step S208: The
例えば、ステップS206の上記例の場合、分解レベル1では縦方向に1/2にされた部分画像データを水平方向のみサブバンド分割したので、垂直方向のサブバンド1LHおよび1HHが欠落している。そこで、解像度変換部34は、高周波域側に0値を付加してサブバンド1LHおよび1HHを生成する(図10参照)。これにより、解像度変換部34から出力される画像全体のサイズは1画面分の画像サイズに復元される。
For example, in the case of the above example of step S206, since the partial image data halved in the vertical direction is divided into subbands only in the horizontal direction at the
ステップS209:ビットモデリング部35は、ウェーブレット変換係数を各サブバンド内でコードブロック(例えば、64×64)に分割する。そして、各コードブロック内の変換係数は、サインビットと絶対値とに分けられた後、絶対値は自然2進数のビットプレーンに振り分けられ、最上位のビットプレーンから順に3通りの符号化パスが実行される。このとき、ビットモデリング部35は、任意のビットプレーンの任意の符号化パスで符号化を打ち切ることで圧縮率の制御を行う。
Step S209: The
ステップS210:算術符号化部36は、ビットモデリング部35から符号化データをコードブロック毎に取得して、この符号化データに対して、2値算術符号であるMQコーダーを用いて算術符号化を施す。
ステップS211:ビットストリーム生成部37は、符号化データを優先順位に並べ替えてビットストリームを生成し、ヘッダ等を付加して最終的な圧縮データを生成する。この圧縮データは最終的に記録媒体7に格納される。以上で、第2実施形態の電子カメラの一連の動作が終了する。
Step S210: The
Step S211: The bit
(第2実施形態の効果)
第2実施形態では、画像処理部が部分画像データを生成し、この部分画像データを補間することなくDWTを行って、その後にウェーブレット変換係数の高周波域側に0値を付加して画像サイズを1画面に対応するように復元する。この第2実施形態では、上記第1実施形態と同様の効果に加えて、第1実施形態に比べてブロックノイズやモスキートノイズの少ない良好な再生画像を得ることができる。
(Effect of 2nd Embodiment)
In the second embodiment, the image processing unit generates partial image data, performs DWT without interpolating the partial image data, and then adds a 0 value to the high-frequency region side of the wavelet transform coefficient to set the image size. Restore to correspond to one screen. In the second embodiment, in addition to the same effects as those of the first embodiment, it is possible to obtain an excellent reproduced image with less block noise and mosquito noise than the first embodiment.
(請求項と実施形態との対応関係)
ここで、請求項と実施形態との対応関係を示しておく。なお、以下に示す対応関係はあくまで参考のために示した解釈であって、本発明の技術的範囲を限定するものではない。
「撮像部」には撮像素子1が対応する。「画像処理部」にはASIC5の画像処理回路10が対応する。「直交変換手段」、「解像度変換手段」、「圧縮データ生成手段」にはASIC5の画像処理回路11の機能がそれぞれ対応する。また、第1実施形態が離散コサイン変換による直交変換の場合であり、第2実施形態が離散ウェーブレット変換による直交変換の場合である。なお、請求項6のプログラムはCPU4に実行される。
(Correspondence between Claims and Embodiments)
Here, the correspondence between the claims and the embodiment is shown. Note that the correspondence shown below is an interpretation given for reference only, and does not limit the technical scope of the present invention.
The
(実施形態の補足事項)
以上、本発明を上記の実施形態によって説明してきたが、本発明の技術的範囲は上記実施形態に限定されるものではない。例えば、上記実施形態では、離散コサイン変換または離散ウェーブレット変換で部分画像データに直交変換を行う例を説明したが、本発明は他の公知の直交変換方法によって部分画像データを直交変換する場合にも適用することができる。
(Supplementary items of the embodiment)
As mentioned above, although this invention has been demonstrated by said embodiment, the technical scope of this invention is not limited to the said embodiment. For example, in the above-described embodiment, the example in which the orthogonal transformation is performed on the partial image data by the discrete cosine transformation or the discrete wavelet transformation has been described. However, the present invention also applies when the partial image data is orthogonally transformed by another known orthogonal transformation method. Can be applied.
また、画像処理装置は上記実施形態のように電子カメラに限定されるものではなく、画像処理装置はスキャナ等であってもよい。例えば、フイルムスキャナの場合、撮像部は主走査方向に延伸するCCD等のラインセンサと、原稿読み取り機構とで構成される。そして、ラインセンサは、原稿(フイルム)の透過光等を副走査方向に所定間隔で読み込んで、副走査方向に間引きされた部分画像の画像信号を出力する。 Further, the image processing apparatus is not limited to the electronic camera as in the above embodiment, and the image processing apparatus may be a scanner or the like. For example, in the case of a film scanner, the imaging unit includes a line sensor such as a CCD extending in the main scanning direction and a document reading mechanism. The line sensor reads the transmitted light of the document (film) at predetermined intervals in the sub-scanning direction, and outputs an image signal of the partial image thinned out in the sub-scanning direction.
さらに、上記実施形態の解像度変換では、高周波域側に0値を付加する例を示したが、解像度変換部は、ノイズレベルよりも小さな値であれば0値以外の値を付加して解像度変換を行うようにしてもよい。また、上記実施形態では、主に垂直方向に画像が縮小されている場合を説明したが、水平方向に画像が縮小されている場合にも同様に適用できる。
また、上記実施形態の電子カメラでは、XYアドレス方式(CMOS、LBCASTなど)の撮像素子で撮像部を構成する例を示したが、電荷順次転送方式(CCDなど)の撮像素子で撮像部を構成してもよい。
Furthermore, in the resolution conversion of the above-described embodiment, an example in which 0 value is added to the high frequency side has been shown. However, if the value is smaller than the noise level, the resolution conversion unit adds a value other than 0 value to convert the resolution. May be performed. In the above embodiment, the case where the image is reduced mainly in the vertical direction has been described. However, the present invention can be similarly applied to the case where the image is reduced in the horizontal direction.
In the electronic camera of the above embodiment, an example in which the imaging unit is configured by an imaging element of an XY address method (CMOS, LBCAST, etc.) is shown, but the imaging unit is configured by an imaging device of a charge sequential transfer system (CCD, etc.). May be.
さらに、第2実施形態は、便宜上、部分画像全体に対して離散ウェーブレット変換を行う例を説明したが、部分画像データを任意サイズのタイルに分割して、タイルコンポーネント単位で上記の処理を行ってもよい。 Furthermore, in the second embodiment, for the sake of convenience, an example in which discrete wavelet transform is performed on the entire partial image has been described. However, the partial image data is divided into tiles of an arbitrary size, and the above processing is performed in units of tile components. Also good.
間引き読み出し等による部分画像データに基づいて1画面分の画像データを得る場合に、画像処理部の演算速度を上げることなく画像処理の一層の高速化を図ることができる。 When obtaining image data for one screen based on partial image data obtained by thinning readout or the like, the image processing can be further speeded up without increasing the calculation speed of the image processing unit.
1 撮像素子
2 アナログ処理回路
3 A/D変換回路
4 CPU
5 ASIC
6 バッファメモリ
7 記録媒体
8 撮像素子駆動回路
9 システムバス
10 画像処理回路
11 圧縮処理回路
20 ブロック化部
21 離散コサイン変換部
22 量子化部
23 解像度変換部
24 可変長符号化部
30 DCレベルシフト部
31 色変換部
32 離散ウェーブレット変換部
33 量子化部
34 解像度変換部
35 ビットモデリング部
36 算術符号化部
37 ビットストリーム生成部
100 電子カメラ
1
5 ASIC
6 Buffer memory 7
Claims (6)
前記部分画像の画像信号に画像処理を施して部分画像データを生成する画像処理部と、
前記1画面に対する前記部分画像の縦横の縮小率に基づいて、画像の縮小で不足する高周波域部分を除いて前記部分画像データを直交変換する直交変換手段と、
該直交変換後のデータに対して、ノイズレベルより小さい値を高周波域側に付加して前記部分画像の画像サイズを変更する解像度変換手段と、
該解像度変換後のデータから圧縮データを生成する圧縮データ生成手段と、を有することを特徴とする画像処理装置。 An imaging unit that outputs an image signal of a partial image corresponding to an arbitrary plurality of lines or an arbitrary area of one screen;
An image processing unit that performs image processing on an image signal of the partial image to generate partial image data;
An orthogonal transform unit that orthogonally transforms the partial image data based on the vertical and horizontal reduction ratios of the partial image with respect to the one screen, excluding a high-frequency region portion that is insufficient for image reduction;
Resolution conversion means for changing the image size of the partial image by adding a value smaller than the noise level to the high frequency region side for the data after the orthogonal transformation;
An image processing apparatus comprising: compressed data generation means for generating compressed data from the data after the resolution conversion.
前記1画面に対する前記部分画像の縦横の縮小率に基づいて、画像の縮小で不足する高周波域部分を除いて前記部分画像データを直交変換する工程と、
該直交変換後のデータに対して、ノイズレベルより小さい値を高周波域側に付加して前記部分画像の画像サイズを変更する工程と、
該解像度変換後のデータから圧縮データを生成する工程と、を有することを特徴とする画像処理方法。 A step of performing image processing on an image signal of a partial image corresponding to an arbitrary plurality of lines or an arbitrary area of one screen to generate partial image data;
Based on the vertical and horizontal reduction ratios of the partial image with respect to the one screen, orthogonally transforming the partial image data excluding a high-frequency region portion that is insufficient for image reduction;
A step of changing the image size of the partial image by adding a value smaller than the noise level to the high frequency region side for the data after the orthogonal transformation
And a step of generating compressed data from the resolution-converted data.
前記1画面に対する前記部分画像の縦横の縮小率に基づいて、画像の縮小で不足する高周波域部分を除いて前記部分画像データを直交変換する工程と、
該直交変換後のデータに対して、ノイズレベルより小さい値を高周波域側に付加して前記部分画像の画像サイズを変更する工程と、
該解像度変換後のデータから圧縮データを生成する工程と、をコンピュータに実行させるためのプログラム。
A step of performing image processing on an image signal of a partial image corresponding to an arbitrary plurality of lines or an arbitrary area of one screen to generate partial image data;
Based on the vertical and horizontal reduction ratios of the partial image with respect to the one screen, orthogonally transforming the partial image data excluding a high-frequency region portion that is insufficient for image reduction;
A step of changing the image size of the partial image by adding a value smaller than the noise level to the high frequency region side for the data after the orthogonal transformation
A program for causing a computer to execute the step of generating compressed data from the resolution-converted data.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003423045A JP2005184518A (en) | 2003-12-19 | 2003-12-19 | Image processor, image processing method and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003423045A JP2005184518A (en) | 2003-12-19 | 2003-12-19 | Image processor, image processing method and program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005184518A true JP2005184518A (en) | 2005-07-07 |
Family
ID=34783715
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003423045A Pending JP2005184518A (en) | 2003-12-19 | 2003-12-19 | Image processor, image processing method and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005184518A (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020145584A (en) * | 2019-03-06 | 2020-09-10 | 日本放送協会 | Transmitting apparatus, receiving apparatus and program |
-
2003
- 2003-12-19 JP JP2003423045A patent/JP2005184518A/en active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020145584A (en) * | 2019-03-06 | 2020-09-10 | 日本放送協会 | Transmitting apparatus, receiving apparatus and program |
JP7338992B2 (en) | 2019-03-06 | 2023-09-05 | 日本放送協会 | Transmitting device, receiving device, and program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9560256B2 (en) | Image capture apparatus and image capture method in which an image is processed by a plurality of image processing devices | |
KR100347508B1 (en) | Photo Image Pick-Up Device | |
JP3968121B2 (en) | Image compression method | |
WO2010016166A1 (en) | Imaging device, image processing method, image processing program and semiconductor integrated circuit | |
Malvar et al. | Progressive-to-lossless compression of color-filter-array images using macropixel spectral-spatial transformation | |
JP5520122B2 (en) | Data converter | |
JP5640370B2 (en) | Image processing apparatus, image processing method, and imaging apparatus | |
JP3864748B2 (en) | Image processing apparatus, electronic camera, and image processing program | |
JPH04284087A (en) | Electronic still camera | |
JPH1042182A (en) | Image pickup device | |
KR101009108B1 (en) | Image processing apparatus and image processing method | |
JP4560180B2 (en) | Imaging device | |
WO2011010431A1 (en) | Image processing device, image processing method, and image capturing device | |
JP2005278025A (en) | Luminance/color-difference signal generating device, image compressing device, and image processing system | |
JP2005184518A (en) | Image processor, image processing method and program | |
JP4436733B2 (en) | Imaging apparatus and reproducing apparatus | |
JP2003283839A (en) | Image transforming method and apparatus | |
JP3081538B2 (en) | Digital still camera | |
JP3709106B2 (en) | Image compression and decompression device | |
JP2006340300A (en) | Signal processing method, signal processing apparatus, signal processing program and information recording medium | |
JP2004320301A (en) | Image compression apparatus and image processing system | |
JP4720494B2 (en) | Imaging apparatus, imaging method and program, and recording medium | |
US11785352B2 (en) | Image encoding apparatus, method for controlling the same, and non-transitory computer-readable storage medium | |
JP7289642B2 (en) | IMAGE PROCESSING DEVICE, CONTROL METHOD FOR IMAGE PROCESSING DEVICE, AND PROGRAM | |
JP3360808B2 (en) | Electronic still camera compression ratio setting device |