JP2006074114A - Image processing apparatus and imaging apparatus - Google Patents

Image processing apparatus and imaging apparatus Download PDF

Info

Publication number
JP2006074114A
JP2006074114A JP2004251700A JP2004251700A JP2006074114A JP 2006074114 A JP2006074114 A JP 2006074114A JP 2004251700 A JP2004251700 A JP 2004251700A JP 2004251700 A JP2004251700 A JP 2004251700A JP 2006074114 A JP2006074114 A JP 2006074114A
Authority
JP
Japan
Prior art keywords
image
unit
region
image quality
conversion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2004251700A
Other languages
Japanese (ja)
Inventor
Takeshi Watanabe
剛 渡邉
Shigeyuki Okada
茂之 岡田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanyo Electric Co Ltd
Original Assignee
Sanyo Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd filed Critical Sanyo Electric Co Ltd
Priority to JP2004251700A priority Critical patent/JP2006074114A/en
Priority to US11/212,609 priority patent/US20060045381A1/en
Publication of JP2006074114A publication Critical patent/JP2006074114A/en
Pending legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide an image processing apparatus whereby a user can recognize image quality in a plurality of regions in real time in the case of coding an image with different image qualities for a plurality of regions and to provide an imaging apparatus. <P>SOLUTION: An image conversion section 12 in an imaging mode of a camera 100 applies image conversion to an image (original image) captured by a CCD 110 in a way that an image quality level of each region set by a ROI region setting section 123 and an image quality setting section 124 can visually be recognized, and generates a through-image to be displayed on a display apparatus 140 in real time. Then the through-image generated by the image conversion section 124 is sent to a display circuit 127 via a switch SW 1 and the display apparatus 140 displays the image. <P>COPYRIGHT: (C)2006,JPO&NCIPI

Description

本発明は、画像処理装置及び撮像装置に関し、特に領域毎に異なる画質で符号化することができる画像処理装置及び撮像装置に関する。   The present invention relates to an image processing apparatus and an imaging apparatus, and more particularly to an image processing apparatus and an imaging apparatus that can perform encoding with different image quality for each region.

ISO/ITU−Tにおいて、静止画像の圧縮符号化の標準技術であるJPEG(Joint Photographic Expert Group)の後継として、離散ウェーブレット変換(DWT)を用いたJPEG2000の標準化が行われている。JPEG2000では、低ビットレート符号化からロスレス圧縮まで広範囲の画質を高性能で符号化することができ、画質を徐々に高めるスケーラビリティ機能も実現が容易である。また、JPEG2000には、従来のJPEG標準にはなかった多様な機能が用意されている。   In ISO / ITU-T, standardization of JPEG2000 using discrete wavelet transform (DWT) is performed as a successor of JPEG (Joint Photographic Expert Group), which is a standard technology for compression coding of still images. JPEG2000 can encode a wide range of image quality from low bit rate encoding to lossless compression with high performance, and it is easy to realize a scalability function that gradually increases image quality. In addition, JPEG2000 provides various functions not found in the conventional JPEG standard.

JPEG2000の機能の一つとして、画像の注目領域(Region of Interest;ROI)を他の領域よりも優先して符号化し、伝送するROI符号化が規格化されている。ROI符号化により、符号化レートに上限がある場合に、注目領域の再生画質を優先的に高品質にすることができる他、符号化ストリームを順に復号する際に、注目領域を早期に高品質で再生することができるようになる。   As one of the functions of JPEG2000, ROI encoding that encodes and transmits a region of interest (ROI) of an image with priority over other regions is standardized. With ROI encoding, when there is an upper limit on the encoding rate, the reproduction image quality of the attention area can be preferentially made high quality, and when the encoded stream is sequentially decoded, the attention area is quickly improved in quality. Will be able to play.

特許文献1は、画像データ内の複数のROI領域を自動認識する技術を開示する。この特許文献1では、その段落番号0060〜0061に記載されているように、撮影前の段階において、自動認識したROI領域を撮像部で撮像された画像と重ね合わせて表示部に表示し、ユーザが表示されたROI候補の取捨選択を行ったり、ROI領域の拡大/縮小を行ったりすることができる。
特開2004−72655号公報
Patent Document 1 discloses a technique for automatically recognizing a plurality of ROI regions in image data. In this Patent Document 1, as described in paragraph numbers 0060 to 0061, in the stage before photographing, the automatically recognized ROI region is displayed on the display unit so as to be superimposed on the image captured by the imaging unit. It is possible to select ROI candidates for which “” is displayed and to enlarge / reduce the ROI region.
JP 2004-72655 A

しかしながら、上記特許文献1は、表示部に表示されるのはROI領域の範囲だけであり、ROI領域とそれ以外の領域との画質の差まで認識することはできない。したがって、ユーザが、撮影前若しくは撮影中に、それぞれの領域の画質を表示部で確認しながら、その画質を調整することは不可能である。   However, in Patent Document 1, only the range of the ROI area is displayed on the display unit, and the difference in image quality between the ROI area and other areas cannot be recognized. Therefore, it is impossible for the user to adjust the image quality while confirming the image quality of each area on the display unit before or during shooting.

本発明はこうした課題に鑑みてなされたものであり、その目的は、画像を複数の領域で画質が異なるように符号化する際に、ユーザがリアルタイムに複数の領域の画質を認識することが可能な画像処理装置及び撮像装置を提供することにある。   The present invention has been made in view of these problems, and the purpose of the present invention is to allow a user to recognize the image quality of a plurality of areas in real time when an image is encoded so that the image quality is different in the plurality of areas. An image processing apparatus and an imaging apparatus are provided.

本発明のある態様は画像処理装置に関する。この装置は、画像内を複数の領域に設定する領域設定部と、画像データを、前記領域設定部にて設定された各領域毎に画質を異ならせて符号化する符号化部と、前記画像データに対して所定の処理を施すことにより画像データの変換を行い、この変換の度合いは、前記符号化手段によって符号化する各領域の画質レベルに応じて、各領域毎に決定される画像変換部と、前記画像変換部によって変換された画像データをディスプレイ上に表示させる表示部と、を具備することを特徴とする。   One embodiment of the present invention relates to an image processing apparatus. The apparatus includes an area setting unit that sets an image in a plurality of areas, an encoding unit that encodes image data with different image quality for each area set by the area setting unit, and the image Image data is converted by performing predetermined processing on the data, and the degree of conversion is determined for each region according to the image quality level of each region encoded by the encoding means. And a display unit for displaying the image data converted by the image conversion unit on a display.

ここで、画像に対して施す所定の処理は、画像の各画素がもつ画像データ(RGBデータ、或いは輝度・色差データなど)に対して、元の画像データとは異なる新たな画像データに変換する処理のことを指し、例えば、フィルタリング、係数の乗算、若しくは一定の値への置換などがある。   Here, the predetermined processing applied to the image is to convert the image data (RGB data or luminance / color difference data) of each pixel of the image into new image data different from the original image data. Refers to processing, and includes, for example, filtering, multiplication of coefficients, or replacement with a constant value.

また、変換の度合いとは、生成された画像データが元の画素データと比較してどの程度異なるかを表すものであり、上述の所定の処理において、変換の度合いの大小を決定するパラメータを調整することにより、各領域の変換の度合いを決定する。このパラメータは、例えばフィルタリングの場合はフィルタ係数の大きさ、乗算処理の場合は乗算係数の大きさ、一定の値に置換する場合は置換する画素の割合を指す。変換の度合いは、画質レベルが高い領域ほど小さく、画質レベルが低い領域ほど大きくなるように決定してもよい。   The degree of conversion represents how much the generated image data differs from the original pixel data, and the parameter for determining the degree of conversion is adjusted in the predetermined processing described above. By doing so, the degree of conversion of each region is determined. This parameter indicates, for example, the size of the filter coefficient in the case of filtering, the magnitude of the multiplication coefficient in the case of multiplication processing, and the ratio of pixels to be replaced in the case of replacement with a constant value. The degree of conversion may be determined such that the region having a higher image quality level is smaller and the region having a lower image quality level is larger.

この態様によれば、符号化部とは別に画像変換部を備えており、符号化部で複数の領域毎に画質を異ならせて画像を符号化するときに、この画像変換部によって、符号化データの各領域の画質レベルを視覚的に認識可能な画像を、簡易的な方法でかつリアルタイムに生成することができる。そして、ユーザは、画像変換部によって生成された画像を、表示装置を介して見ることができ、符号化によって得られる複数の領域の画質レベルを即座に確認することが可能である。   According to this aspect, the image conversion unit is provided separately from the encoding unit, and when the image is encoded with different image quality for each of the plurality of regions by the encoding unit, the image conversion unit encodes the image. An image capable of visually recognizing the image quality level of each area of data can be generated in a simple method and in real time. The user can view the image generated by the image conversion unit via the display device, and can immediately confirm the image quality levels of a plurality of regions obtained by encoding.

この態様において、前記符号化部によって得られた符号化データを復号する復号部と、前記符号化部にて符号化を行うときは前記画像変換部によって変換された画像データを選択して前記表示部に入力し、前記復号部にて前記符号化データを復号するときは前記復号部によって復号された画像データを選択して前記表示部に入力する選択部と、を更に具備し、前記表示部は、前記復号された画像データが入力されたときこの画像データをディスプレイ上に表示させてもよい。これにより、符号化データを復号した画像も表示装置を介して見ることができるので、ユーザは、実際の符号化データの画質も確認することが可能である。   In this aspect, a decoding unit that decodes the encoded data obtained by the encoding unit, and when encoding is performed by the encoding unit, the image data converted by the image conversion unit is selected and displayed. And a selection unit that selects image data decoded by the decoding unit and inputs it to the display unit when the encoded data is decoded by the decoding unit, and the display unit When the decoded image data is input, the image data may be displayed on a display. As a result, an image obtained by decoding the encoded data can also be viewed via the display device, so that the user can also check the actual image quality of the encoded data.

この態様において、前記画像内の注目するオブジェクトの動きを検出する動き検出部を更に備え、前記領域設定部は、前記オブジェクトの動きにこのオブジェクトを含む領域を追従せしめてもよい。これにより、表示装置に表示された画像によって、自動追従された領域の位置などがリアルタイムに確認することが可能である。   In this aspect, the image processing apparatus may further include a motion detection unit that detects the motion of the object of interest in the image, and the region setting unit may cause the region including the object to follow the motion of the object. Thereby, it is possible to confirm in real time the position of the area that has been automatically followed by the image displayed on the display device.

この態様において、使用者(ユーザ)が前記複数の領域の位置、大きさ、及び画質のうち少なくとも一つを設定する入力部を更に備えてもよい。これにより、ユーザが表示装置に表示された画像を確認しながら、各領域の位置、大きさ、画質を調整することが可能となる。   In this aspect, a user (user) may further include an input unit that sets at least one of the position, size, and image quality of the plurality of regions. Accordingly, the user can adjust the position, size, and image quality of each area while confirming the image displayed on the display device.

この態様において、前記画像変換部は、各領域の画質が異なるように画像データを変換してもよい。この画像変換部では、符号化で求められるほど厳密な画質の調整は必要なく、簡単な処理で各領域の画質を異ならせることができるうえ、画質変換部で得られた画像は、符号化によって得られた画像と近い。したがって、この画質変換部にて簡単な処理で得られた画像を表示装置に表示することにより、ユーザは符号化された画像の各領域の画質レベルをリアルタイムに認識することができるとともに、復号したときの画像イメージをも把握することができる。   In this aspect, the image conversion unit may convert the image data so that the image quality of each region is different. This image conversion unit does not require strict adjustment of image quality as required by encoding, and the image quality of each region can be made different by simple processing. Close to the obtained image. Therefore, by displaying an image obtained by simple processing in the image quality conversion unit on the display device, the user can recognize the image quality level of each area of the encoded image in real time and decode it. You can also grasp the image of the time.

この態様において、前記画像変換部は、各領域の色彩が異なるように画像データを変換してもよい。これによれば、符号化した際の各領域の画質レベルの違いが色彩の差異によって表示されるため、表示される画像はすべての領域においてはっきりと表示される。したがって、ユーザは符号化された画像の各領域の画質レベルを認識できるとともに、画像全体に映っている内容をすべての領域で把握することができる。   In this aspect, the image conversion unit may convert the image data so that the colors of the regions are different. According to this, since the difference in image quality level of each area when encoded is displayed by the difference in color, the displayed image is clearly displayed in all areas. Therefore, the user can recognize the image quality level of each area of the encoded image and can grasp the contents shown in the entire image in all areas.

この態様において、前記画像変換部は、各領域の輝度が異なるように画像データを変換してもよい。人間の目は輝度の変化に敏感であり、わずかな輝度の違いも認識することができる。したがって、表示装置が低解像度であったり、色が出力されないモノクロのものである場合でも、各領域の輝度を異ならせた画像を表示装置に表示すれば、符号化した際の各領域の画質レベルを容易に把握可能となる。   In this aspect, the image conversion unit may convert the image data so that the brightness of each region is different. The human eye is sensitive to changes in brightness and can recognize even slight differences in brightness. Therefore, even if the display device is a low-resolution or monochrome image that does not output color, if an image with different brightness is displayed on the display device, the image quality level of each region when encoded is displayed. Can be easily grasped.

この態様において、前記画像変換部は、前記画像に対し網掛けを行う工程を含み、各領域の網掛けの濃淡が異なるように画像データを変換してもよい。網掛けの工程は、一定の画素間隔ごとに画像データを置換すれば実現できるので、容易に実装可能である。したがって、低いコストでユーザは符号化された画像の各領域の画質レベルを認識可能な画像処理装置を実現できる。   In this aspect, the image conversion unit may include a step of performing shading on the image, and may convert the image data so that shading of each region is different. The shading process can be realized by replacing the image data at regular pixel intervals, and can be easily implemented. Therefore, it is possible to realize an image processing apparatus that allows the user to recognize the image quality level of each region of the encoded image at a low cost.

本発明の別の態様は、撮像装置に関する。この装置は、画像を取り込む撮像部と、画像内を複数の領域に設定する領域設定部と、前記撮像部から出力された画像データを、前記領域設定部にて設定された各領域毎に画質を異ならせて符号化する符号化部と、前記撮像部から出力された画像データに対して所定の処理を施すことにより画像データの変換を行い、この変換の度合いは、前記符号化手段によって符号化する各領域の画質レベルに応じて、各領域毎に決定される画像変換部と、前記画像変換部によって変換された画像データをディスプレイ上に表示させる表示部と、を具備することを特徴とする。   Another aspect of the present invention relates to an imaging apparatus. This apparatus includes an image capturing unit that captures an image, an area setting unit that sets a plurality of areas in the image, and image data output from the image capturing unit for each area set by the area setting unit. The image data is converted by performing a predetermined process on the image data output from the imaging unit and the encoding unit that performs encoding with different encoding, and the degree of the conversion is encoded by the encoding unit. An image conversion unit determined for each region according to the image quality level of each region to be converted, and a display unit for displaying the image data converted by the image conversion unit on a display To do.

この態様によれば、ユーザは、撮影前若しくは撮影中に、表示装置によって画像内の複数の領域がどのような画質レベルで符号化されるかを、リアルタイムに認識することが可能である。   According to this aspect, the user can recognize in real time at what image quality level a plurality of regions in the image are encoded by the display device before or during shooting.

なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、コンピュータプログラム、記録媒体などの間で変換したものもまた、本発明の態様として有効である。   It should be noted that any combination of the above-described constituent elements and a conversion of the expression of the present invention between a method, an apparatus, a system, a computer program, a recording medium, and the like are also effective as an aspect of the present invention.

本発明によれば、画像を複数の領域で画質が異なるように符号化する際に、ユーザが、リアルタイムに複数の領域の画質を認識することができる。   According to the present invention, when an image is encoded so that the image quality is different in a plurality of regions, the user can recognize the image quality of the plurality of regions in real time.

以下、本発明の好適な実施形態1〜6を基に説明する。これらの実施形態は、デジタルカメラに関する。   Hereinafter, description will be given based on preferred embodiments 1 to 6 of the present invention. These embodiments relate to a digital camera.

(実施形態1)
図1は実施形態1に係るデジタルカメラ100の構成図である。デジタルカメラ100の構成は、ハードウエア的には、任意のコンピュータのCPU、メモリ、その他のLSIで実現でき、ソフトウエア的にはメモリのロードされた符号化機能のあるプログラムなどによって実現されるが、ここではそれらの連携によって実現される機能ブロックを描いている。したがって、これらの機能ブロックがハードウエアのみ、ソフトウエアのみ、またはそれらの組合せによっていろいろな形で実現できることは、当業者には理解されるところである。
(Embodiment 1)
FIG. 1 is a configuration diagram of a digital camera 100 according to the first embodiment. The configuration of the digital camera 100 can be realized in terms of hardware by a CPU, memory, or other LSI of an arbitrary computer, and can be realized in terms of software by a program having an encoding function loaded in the memory. Here, the functional blocks realized by the cooperation are depicted. Accordingly, those skilled in the art will understand that these functional blocks can be realized in various forms by hardware only, software only, or a combination thereof.

デジタルカメラ100は、画像を取り込むCCD110、CCD110で取り込んだ画像に対し所定の処理を施し、符号化画像データと表示用画像データを生成する画像処理回路120、符号化画像データを記録する記録装置160、表示用画像データを表示する表示装置140により構成される。   The digital camera 100 includes a CCD 110 that captures an image, an image processing circuit 120 that generates encoded image data and display image data by performing predetermined processing on the image captured by the CCD 110, and a recording device 160 that records the encoded image data. The display device 140 displays the display image data.

記録装置160は、デジタルカメラ100に内蔵された半導体メモリやハードディスクによって実現できる。また脱着可能な記録媒体と、この記録媒体を挿入できるスロット、及び記録媒体へのアクセスを制御する回路によって構成してもよい。脱着可能な記録媒体としては、例えば、半導体メモリやハードディスク、光ディスク、光磁気ディスクなどがある。   The recording device 160 can be realized by a semiconductor memory or a hard disk built in the digital camera 100. Further, it may be constituted by a removable recording medium, a slot into which the recording medium can be inserted, and a circuit for controlling access to the recording medium. Examples of the removable recording medium include a semiconductor memory, a hard disk, an optical disk, and a magneto-optical disk.

表示装置140は、デジタルカメラ100に備えられた液晶ディスプレイによって構成される。また、外部のモニタとケーブルで接続することによって表示装置140を構成してもよい。   The display device 140 is configured by a liquid crystal display provided in the digital camera 100. The display device 140 may be configured by connecting to an external monitor with a cable.

画像処理回路120は、信号処理部121、フレームバッファ122、ROI領域設定部123、画像変換部124、符号化部125、復号部126、スイッチSW1、表示回路127、画質設定部128、及び制御部130によって構成されている。   The image processing circuit 120 includes a signal processing unit 121, a frame buffer 122, an ROI region setting unit 123, an image conversion unit 124, an encoding unit 125, a decoding unit 126, a switch SW1, a display circuit 127, an image quality setting unit 128, and a control unit. 130.

信号処理部121は、CCD110の出力信号から画像信号を取り出し、デジタル信号に変換後、画素欠陥補正や、ホワイトバランス補正、ガンマ補正などの補正を行う。フレームバッファ122は、SDRAMなどの大容量半導体メモリによって構成され、信号処理部121によって補正された画像データを記録する。このフレームバッファ122は、1フレーム若しくは数フレーム分の画像データを蓄積することが可能である。   The signal processing unit 121 extracts an image signal from the output signal of the CCD 110, converts it into a digital signal, and then performs corrections such as pixel defect correction, white balance correction, and gamma correction. The frame buffer 122 is configured by a large-capacity semiconductor memory such as SDRAM, and records the image data corrected by the signal processing unit 121. The frame buffer 122 can store image data for one frame or several frames.

ROI領域設定部123は、原画像上の注目領域を選択し、注目領域の位置を示すROI位置情報を画像変換部124と符号化部125に与える。ROI位置情報は、注目領域が矩形で選択される場合は、矩形領域の左上隅の画素の座標値と矩形領域の縦横の画素数で与えられる。   The ROI region setting unit 123 selects a region of interest on the original image, and provides ROI position information indicating the position of the region of interest to the image conversion unit 124 and the encoding unit 125. When the attention area is selected as a rectangle, the ROI position information is given by the coordinate value of the pixel at the upper left corner of the rectangular area and the number of pixels in the vertical and horizontal directions of the rectangular area.

注目領域は、ユーザが原画像上の特定の領域を指定することによって選択されてもよく、原画像の中心領域など予め定まった領域が選択されてもよい。また、人物や文字が写っている領域などの重要領域が注目領域として自動的に抽出されてもよい。自動的に抽出する方法としては、例えば、原画像をオブジェクトと背景とに分離し、各オブジェクト毎に特徴点を抽出して、そのオブジェクトに人物や文字が写っているか否かを判定する方法がある。もしくは、原画像を複数のブロックに分割し、ブロック毎に動きベクトルを求め、あるブロックの動きベクトルが他のブロックの動きベクトルと異なっている場合、そのブロックを注目領域として自動的に抽出してもよい。   The attention area may be selected by the user specifying a specific area on the original image, or a predetermined area such as a central area of the original image may be selected. Also, an important area such as an area in which a person or a character is shown may be automatically extracted as the attention area. As a method of automatically extracting, for example, a method of separating an original image into an object and a background, extracting a feature point for each object, and determining whether or not a person or a character is reflected in the object. is there. Alternatively, the original image is divided into a plurality of blocks, a motion vector is obtained for each block, and when the motion vector of a certain block is different from the motion vector of another block, the block is automatically extracted as the attention area Also good.

ROI領域設定部123は、原画像上の複数の注目領域を選択し、各注目領域の位置を示すROI位置情報を画像変換部124と符号化部125に与えることもできる。複数の注目領域には重なりがあってもよく、注目領域の内部に非注目領域が含まれてもよい。   The ROI region setting unit 123 can also select a plurality of regions of interest on the original image and provide ROI position information indicating the position of each region of interest to the image conversion unit 124 and the encoding unit 125. A plurality of attention areas may overlap, and a non-attention area may be included inside the attention area.

ROI領域設定部123は、複数の領域間で画質の優先度を設定し、この情報を画質設定部128に与える。たとえば、複数の注目領域として、画像の中心部および中心部の周辺が選択され、それ以外の外周部が非注目領域とされた場合、画像の中心部は、高画質で再生されるように優先度を高く設定し、中心部の周辺は、標準画質で再生されるように優先度を低く設定する。別の例として、複数の注目領域として、文字が写っている領域と人物の顔が写っている領域が選択された場合、文字の領域は最高画質となるように優先度を最も高く設定し、顔の領域は高画質になるように優先度をその次に設定し、それ以外の領域は標準画質となるように非注目領域とする。プライバシーを保護する目的で、人物の顔が写っている領域が低画質となるように、低い優先度を設定したり、非注目領域に設定してもよい。   The ROI region setting unit 123 sets image quality priority among a plurality of regions, and gives this information to the image quality setting unit 128. For example, when the center part of the image and the periphery of the center part are selected as a plurality of attention areas, and the other outer peripheral part is set as a non-attention area, priority is given to the center part of the image being reproduced with high image quality. The degree of priority is set high, and the priority is set low so that the periphery of the center is reproduced with standard image quality. As another example, when a region where characters are reflected and a region where a person's face is reflected are selected as a plurality of attention regions, the priority is set so that the character region has the highest image quality, The priority is set next to the face area so that the image quality is high, and the other areas are set as non-attention areas so that the standard image quality is obtained. For the purpose of protecting privacy, a low priority may be set or a non-attention area may be set so that an area where a person's face is captured has low image quality.

図2は、原画像80に複数の注目領域が設けられた場合の優先度の設定例を説明する図である。同図のように、原画像1に2つの注目領域81、83が設定された場合、ROI領域設定部123は、たとえば、第1の注目領域81(以下、ROI1とする)、第2の注目領域83(以下、ROI2とする)、それ以外の非注目領域(以下、非ROIと呼ぶ)の順に優先度が低くなるように優先順位を設定する。   FIG. 2 is a diagram for explaining an example of setting priorities when a plurality of attention areas are provided in the original image 80. As shown in the figure, when two attention areas 81 and 83 are set in the original image 1, the ROI area setting unit 123, for example, includes a first attention area 81 (hereinafter referred to as ROI1), a second attention area, and the like. Priorities are set so that the priorities become lower in the order of the region 83 (hereinafter referred to as ROI2) and the other non-attention regions (hereinafter referred to as non-ROI).

ROI領域設定部123で設定した「画質の優先度」は、各領域の画質の相対的な関係を表すのに対し、画質設定部128では、画質の絶対的なレベルを決定する。画質設定部128は、ROI領域設定部123から得た各領域の画質の優先度をもとに、各領域の画質レベルを決定し、この情報を画像変換部124と符号化部125に与える。また、各領域の画質レベルは、後述の符号化部125から得られる符号量によって、調整することができる。すなわち、符号量が目標値よりも大きくなった場合は、画像全体の画質レベルを下げたり、優先度の低い領域の画質を下げたりすることによって、符号量を低減する。一方、符号量が目標値よりも小さい場合は、画像全体の画質レベルを上げたり、優先度の高い領域の画質を上げる等によって、符号量を増加させる。このとき、画質レベルは、画質の優先度にしたがって、その相対的な関係が崩れないように調整される。   The “image quality priority” set by the ROI region setting unit 123 represents a relative relationship between the image quality of each region, whereas the image quality setting unit 128 determines an absolute level of image quality. The image quality setting unit 128 determines the image quality level of each region based on the priority of the image quality of each region obtained from the ROI region setting unit 123, and provides this information to the image conversion unit 124 and the encoding unit 125. Further, the image quality level of each region can be adjusted by the code amount obtained from the encoding unit 125 described later. That is, when the code amount becomes larger than the target value, the code amount is reduced by lowering the image quality level of the entire image or lowering the image quality of the low priority area. On the other hand, when the code amount is smaller than the target value, the code amount is increased by increasing the image quality level of the entire image or by increasing the image quality of the high priority area. At this time, the image quality level is adjusted according to the priority of the image quality so that the relative relationship does not break.

符号化部125は、フレームバッファ122より入力された画像データ(以下、原画像と言う)を、一例としてISO/ITU−Tで標準化された画像圧縮方式であるJPEG2000(ISO/IEC 15444−1:2001)により圧縮符号化する。符号化部125に入力される画像は、動画像のフレームである。符号化部125は、動画像の各フレームをJPEG2000方式で連続的に符号化し、Motion JPEG2000(ISO/IEC 15444−3:2002)で標準化されたフォーマットに従って、動画像の符号化ストリームを生成することができる。   The encoding unit 125 uses the image data input from the frame buffer 122 (hereinafter referred to as an original image) as an example, JPEG2000 (ISO / IEC 154444-1: an image compression method standardized by ISO / ITU-T). 2001). The image input to the encoding unit 125 is a moving image frame. The encoding unit 125 continuously encodes each frame of a moving image by the JPEG2000 method, and generates an encoded stream of the moving image in accordance with a format standardized by Motion JPEG2000 (ISO / IEC 15444-3: 2002). Can do.

図3は、符号化部125の構成図を示したものである。ウェーブレット変換部10は、原画像をサブバンド分割して、各サブバンド画像のウェーブレット変換係数を計算し、階層化されたウェーブレット変換係数を生成する。   FIG. 3 shows a configuration diagram of the encoding unit 125. The wavelet transform unit 10 divides the original image into subbands, calculates wavelet transform coefficients of each subband image, and generates layered wavelet transform coefficients.

ウェーブレット変換部10は、原画像のx、yそれぞれの方向においてローパスフィルタおよびハイパスフィルタを適用し、4つの周波数サブバンドへ分割してウェーブレット変換する。これらのサブバンドは、x、yの両方向において低周波成分を有するLLサブバンドと、x、yのいずれかひとつの方向において低周波成分を有し、かつもう一方の方向において高周波成分を有するHLおよびLHサブバンドと、x、yの両方向において高周波成分を有するHHサブバンドである。各サブバンドの縦横の画素数は処理前の画像のそれぞれ1/2であり、一回のフィルタリングで解像度、すなわち画像サイズが1/4のサブバンド画像が得られる。   The wavelet transform unit 10 applies a low-pass filter and a high-pass filter in the x and y directions of the original image, and divides it into four frequency subbands for wavelet transform. These subbands are LL subbands having low frequency components in both x and y directions, and HL subbands having low frequency components in either one of x and y directions and high frequency components in the other direction. And an HH subband having a high frequency component in both the x and y directions. The number of vertical and horizontal pixels in each subband is ½ that of the image before processing, and a subband image having a resolution, that is, a quarter of the image size, can be obtained by one filtering.

ウェーブレット変換部10は、こうして得られたサブバンドのうち、LLサブバンドに対して再度フィルタリング処理を行って、これをさらにLL、HL、LH、HHの4つのサブバンドに分割してウェーブレット変換する。ウェーブレット変換部10は、このフィルタリングを所定の回数行って、原画像をサブバンド画像に階層化し、各サブバンドのウェーブレット変換係数を出力する。量子化部12は、ウェーブレット変換部10から出力されたウェーブレット変換係数を所定の量子化幅で量子化する。   Of the subbands thus obtained, the wavelet transform unit 10 performs the filtering process again on the LL subband, further divides it into four subbands LL, HL, LH, and HH, and performs wavelet transform. . The wavelet transform unit 10 performs this filtering a predetermined number of times, hierarchizes the original image into subband images, and outputs wavelet transform coefficients for each subband. The quantization unit 12 quantizes the wavelet transform coefficient output from the wavelet transform unit 10 with a predetermined quantization width.

ROIマスク生成部20は、ROI領域設定部123から出力されたROI位置情報をもとに、注目領域に対応するウェーブレット変換係数すなわちROI変換係数を特定するためのROIマスクを生成する。   Based on the ROI position information output from the ROI region setting unit 123, the ROI mask generation unit 20 generates a ROI mask for specifying the wavelet transform coefficient corresponding to the region of interest, that is, the ROI transform coefficient.

図4(a)〜(c)は、ROIマスク生成部20により生成されるROIマスクを説明する図である。図4(a)のように、ROI領域設定部123により原画像80上に注目領域90が選択されたとする。ROIマスク生成部20は、原画像80上に選択された注目領域90を復元するために必要なウェーブレット変換係数を各サブバンドにおいて特定する。   FIGS. 4A to 4C are diagrams for explaining the ROI mask generated by the ROI mask generation unit 20. As shown in FIG. 4A, it is assumed that the attention area 90 is selected on the original image 80 by the ROI area setting unit 123. The ROI mask generation unit 20 specifies a wavelet transform coefficient necessary for restoring the attention area 90 selected on the original image 80 in each subband.

図4(b)は、原画像80を1回だけウェーブレット変換することにより得られる第1階層の変換画像82を示す。第1階層の変換画像82は、第1レベルの4つのサブバンドLL1、HL1、LH1、HH1から構成される。ROIマスク生成部20は、原画像80の注目領域90を復元するために必要な第1階層の変換画像82上のウェーブレット変換係数、すなわちROI変換係数91〜94を第1レベルの各サブバンドLL1、HL1、LH1、HH1において特定する。   FIG. 4B shows a first-layer converted image 82 obtained by performing wavelet transform on the original image 80 only once. The converted image 82 of the first hierarchy is composed of four subbands LL1, HL1, LH1, and HH1 of the first level. The ROI mask generation unit 20 uses the wavelet transform coefficients on the first-level transformed image 82 necessary for restoring the attention area 90 of the original image 80, that is, the ROI transform coefficients 91 to 94, to the first-level subbands LL1. , HL1, LH1, and HH1.

図4(c)は、図4(b)の変換画像82の最低周波数成分のサブバンドLL1をさらにウェーブレット変換することにより得られる第2階層の変換画像84を示す。第2階層の変換画像84は、同図のように、第1レベルの3つのサブバンドHL1、LH1、HH1の他、第2レベルの4つのサブバンドLL2、HL2、LH2、HH2を含む。ROIマスク生成部20は、第1階層の変換画像82のサブバンドLL1におけるROI変換係数91を復元するために必要な第2階層の変換画像84上のウェーブレット変換係数、すなわちROI変換係数95〜98を第2レベルの各サブバンドLL2、HL2、LH2、HH2において特定する。   FIG. 4C shows a second-layer converted image 84 obtained by further wavelet transforming the subband LL1 of the lowest frequency component of the converted image 82 in FIG. 4B. As shown in the drawing, the second-layer converted image 84 includes four subbands LL2, HL2, LH2, and HH2 at the second level in addition to the three subbands HL1, LH1, and HH1 at the first level. The ROI mask generation unit 20 uses the wavelet transform coefficients on the transformed image 84 of the second hierarchy necessary for restoring the ROI transform coefficients 91 in the subband LL1 of the transformed image 82 of the first hierarchy, that is, ROI transform coefficients 95 to 98. Is specified in each of the second level subbands LL2, HL2, LH2, and HH2.

同様にして、ウェーブレット変換の回数だけ注目領域90に対応するROI変換係数を各階層において再帰的に特定していくことにより、最終階層の変換画像において、注目領域90を復元するために必要なROI変換係数をすべて特定することができる。ROIマスク生成部20は、この最終的に特定されたROI変換係数の位置を最終階層の変換画像上で特定するためのROIマスクを生成する。たとえば、ウェーブレット変換を2回だけ行う場合には、図4(c)において斜線で示した7個のROI変換係数92〜98の位置を特定することのできるROIマスクが生成される。   Similarly, the ROI transform coefficient corresponding to the attention area 90 is recursively specified in each layer by the number of wavelet transforms, so that the ROI necessary for restoring the attention area 90 in the converted image of the final hierarchy is obtained. All conversion coefficients can be specified. The ROI mask generation unit 20 generates an ROI mask for specifying the position of the finally specified ROI conversion coefficient on the converted image of the final hierarchy. For example, when the wavelet transform is performed only twice, an ROI mask that can specify the positions of the seven ROI transform coefficients 92 to 98 indicated by diagonal lines in FIG. 4C is generated.

零置換ビット数決定部19は、画質決定部128にて設定された画質レベルに基づいて、非注目領域に対応するウェーブレット変換係数すなわち非ROI変換係数のビット列において零置換する下位ビット数S0と、複数の注目領域の各々に対応するウェーブレット変換係数すなわちROI変換係数のビット列において零置換する下位ビット数Si(i=1,・・・,N;Nは注目領域の数)を決める。   Based on the image quality level set by the image quality determination unit 128, the zero replacement bit number determination unit 19 performs a zero-substitution bit number S0 for zero replacement in a bit string of a wavelet transform coefficient corresponding to a non-target region, that is, a non-ROI transform coefficient, A lower bit number Si (i = 1,..., N; N is the number of regions of interest) to be replaced with zero in a bit string of wavelet transform coefficients corresponding to each of a plurality of regions of interest, that is, ROI transform coefficients, is determined.

図2の例では、零置換ビット数決定部19は、たとえば原画像のウェーブレット変換係数が7ビットプレーンからなるとき、第1優先の注目領域ROI1については零置換ビット数S1を0に、第2優先の注目領域ROI2については零置換ビット数S2を2に、非注目領域については零置換ビット数S0を4に設定する。すなわち、優先度が低いほど、零置換ビット数を大きくとる。   In the example of FIG. 2, the zero replacement bit number determination unit 19 sets the zero replacement bit number S1 to 0 for the first priority region of interest ROI1, for example, when the wavelet transform coefficient of the original image is a 7-bit plane. The zero replacement bit number S2 is set to 2 for the priority region of interest ROI2, and the zero replacement bit number S0 is set to 4 for the non-target region. That is, the lower the priority, the larger the number of zero replacement bits.

下位ビット零置換部24は、ROIマスク生成部20により生成された各注目領域に対するROIマスクを参照して、ROIマスクによってマスクされない非ROI変換係数のビット列において最下位ビットから数えてS0ビットだけを零に置換するとともに、ROIマスクによってマスクされたROI変換係数のビット列においても最下位ビットから数えてSiビットだけを零に置換する。   The low-order bit zero replacement unit 24 refers to the ROI mask for each region of interest generated by the ROI mask generation unit 20, and only the S0 bit is counted from the least significant bit in the bit string of the non-ROI transform coefficient not masked by the ROI mask. In addition to replacing with zero, only the Si bit counted from the least significant bit in the bit string of the ROI transform coefficient masked by the ROI mask is replaced with zero.

図5(a)〜(c)は、下位ビット零置換部24により原画像のウェーブレット変換係数60の下位ビットが零置換される様子を説明する図である。図5(a)は、量子化部12による量子化後のウェーブレット変換係数60を示し、7ビットプレーンを含み、ROI変換係数は斜線で示されている。この図は、図2の2つの注目領域ROI1、ROI2を含む原画像80の例において、P1−P2の線上の画素に対応するウェーブレット変換係数のビット列を図示したものである。   FIGS. 5A to 5C are diagrams for explaining how the lower bits of the wavelet transform coefficient 60 of the original image are zero-substituted by the lower-bit zero substitution unit 24. FIG. FIG. 5A shows the wavelet transform coefficient 60 after quantization by the quantizing unit 12, including a 7-bit plane, and the ROI transform coefficient is indicated by diagonal lines. This figure illustrates a bit string of wavelet transform coefficients corresponding to pixels on the line P1-P2 in the example of the original image 80 including the two regions of interest ROI1 and ROI2 in FIG.

図5(b)に示すように、下位ビット零置換部24は、ROIマスクによりマスクされていない非ROI変換係数のLSB側のS0ビットを零に置換する。この例では、S0=4であり、符号64で示すように、非ROI変換係数のLSB側の4ビットが零に置換されている。さらに、下位ビット零置換部24は、ROIマスクによりマスクされたROI変換係数のLSB側のSiビットを零に置換する。この例では、2つの注目領域ROI1、ROI2が設定されており、それぞれの零置換ビット数S1、S2は、S1=0、S2=2であり、符号66で示すように、ROI2に対応するROI変換係数のLSB側の2ビットが零に置換されている。このようにして、下位ビット零置換部24によって零置換されたウェーブレット変換係数62が得られる。   As shown in FIG. 5B, the low-order bit zero replacement unit 24 replaces the S0 bit on the LSB side of the non-ROI transform coefficient not masked by the ROI mask with zero. In this example, S0 = 4, and as indicated by reference numeral 64, the 4 bits on the LSB side of the non-ROI transform coefficient are replaced with zero. Further, the lower bit zero replacement unit 24 replaces the Si bit on the LSB side of the ROI transform coefficient masked by the ROI mask with zero. In this example, two regions of interest ROI1 and ROI2 are set, and the zero substitution bit numbers S1 and S2 are S1 = 0 and S2 = 2, respectively, and as indicated by reference numeral 66, the ROI corresponding to ROI2 is set. Two bits on the LSB side of the conversion coefficient are replaced with zero. In this way, the wavelet transform coefficient 62 that has been zero-substituted by the low-order bit zero replacing unit 24 is obtained.

図3のエントロピー符号化部14は、図5(c)の矢印に示すように、ROI変換係数と零置換された非ROI変換係数を含むウェーブレット変換係数62を上位ビットプレーンから順にスキャンしながらエントロピー符号化する。   The entropy encoding unit 14 in FIG. 3 scans the wavelet transform coefficient 62 including the ROI transform coefficient and the non-ROI transform coefficient zero-substituted in order from the upper bit plane, as indicated by the arrow in FIG. 5C. Encode.

符号化データ生成部16は、エントロピー符号化されたデータを量子化幅等の符号化パラメータとともにストリーム化して、符号化画像データとして出力する。また、ストリーム化したときの符号量を積算し、画質設定部128へ与える。   The encoded data generation unit 16 streams the entropy-encoded data together with an encoding parameter such as a quantization width and outputs it as encoded image data. Also, the code amount when streamed is integrated and given to the image quality setting unit 128.

符号化画像データは、記録装置160に記録される。また、この符号化画像データは、再生時の画質の異なる複数の領域を含むものであり、復号部126によって記録装置160から読み出され、復号されて、表示装置140の画面上で再生される。   The encoded image data is recorded in the recording device 160. The encoded image data includes a plurality of areas having different image quality at the time of reproduction. The encoded image data is read from the recording device 160 by the decoding unit 126, decoded, and reproduced on the screen of the display device 140. .

図1の画像変換部124は、画像の高周波成分を除去するフィルタを備えており、フレームバッファ122より入力された画像データ(原画像)に対し、ROI領域設定部123及び画質設定部124によって設定された各領域の画質が異なるように、フィルタ処理をリアルタイムに行う。画像変換部124は、カメラ100が撮像モード時に、CCD110で取り込んだ画像を表示装置140に表示させるためのスルー画像(CCD110で取り込んだ、圧縮・伸張されない画像)を作成するためのもので、符号化部125と独立して動作する。ここで、撮像モードとは、表示装置140にスルー画像を表示し、ユーザがそれを確認しながら、被写体の大きさや撮像条件を決定して、シャッターボタンを押すことにより、画像を符号化部125で圧縮し、記録部130に記録するモードのことである。また、動画撮像時においても、表示装置には撮像中のスルー画像が表示装置140に表示される。   The image conversion unit 124 in FIG. 1 includes a filter that removes high-frequency components of the image, and is set by the ROI region setting unit 123 and the image quality setting unit 124 for the image data (original image) input from the frame buffer 122. The filtering process is performed in real time so that the image quality of each of the areas is different. The image conversion unit 124 is for creating a through image (an image captured by the CCD 110 and not compressed / expanded) for displaying the image captured by the CCD 110 on the display device 140 when the camera 100 is in the imaging mode. It operates independently of the conversion unit 125. Here, the imaging mode refers to displaying the through image on the display device 140, and while confirming it, the user determines the size of the subject and the imaging condition, and presses the shutter button, thereby encoding the image. This is a mode for compressing and recording in the recording unit 130. In addition, even during moving image capturing, a through image being captured is displayed on the display device 140 on the display device.

仮に、撮像モードにおいて、複数の領域で画質を異ならせて符号化したデータを再度復号し、復号して得られた画像を表示させることによって、それぞれの領域の画質を確認することも可能であるが、符号化及び復号による処理時間が大きいため、リアルタイム性が失われる。また、撮影前において、それぞれの領域の画質を確認するためだけに符号化及び復号を行うことは甚だ無駄になってしまう。これに対し本実施形態は、撮像モード時に、画像変換部124によって、各領域の画質を異ならせた画像をリアルタイムに生成し、この画像を表示装置に表示することによって、それぞれの領域の画質レベルを即座に確認することが可能としている。   In the imaging mode, it is also possible to check the image quality of each area by re-decoding data encoded with different image quality in a plurality of areas and displaying the image obtained by decoding. However, since the processing time by encoding and decoding is long, real-time property is lost. In addition, it is very wasteful to perform encoding and decoding only for confirming the image quality of each area before photographing. On the other hand, in the present embodiment, in the imaging mode, the image conversion unit 124 generates an image with different image quality in each area in real time, and displays the image on the display device, whereby the image quality level of each area is displayed. Can be confirmed immediately.

画像変換部124の構成図を図6に示す。画像変換部124は、フィルタ部30、領域判定部31、及びフィルタ係数決定部32を備えている。フィルタ部30は、入力された原画像の各画素に対してフィルタ処理を行い、スルー画像を生成する。図7(a)は、フィルタ部30の例を示したものである。このフィルタは、原画像の水平方向に並んだn個の画素OP〜OPから、スルー画像の画素TPを求める。すなわち、原画像の画素OP〜OPそれぞれに対し、フィルタ係数a〜aを乗算し、それらの結果を加算することによって、スルー画像の画素TPを算出するローパスフィルタである。 FIG. 6 shows a configuration diagram of the image conversion unit 124. The image conversion unit 124 includes a filter unit 30, a region determination unit 31, and a filter coefficient determination unit 32. The filter unit 30 performs a filtering process on each pixel of the input original image to generate a through image. FIG. 7A shows an example of the filter unit 30. The filter of n pixels OP 1 ~OP n arranged in the horizontal direction of the original image, obtains the pixel TP m of the through image. That is, for a pixel OP 1 ~OP n each original image, multiplied by the filter coefficients a 1 ~a n, by adding the results, a low-pass filter to calculate the pixel TP m of the through image.

フィルタ部30で使用するフィルタ係数は以下の方法で決定される。フィルタ部30は、フィルタ処理を行う画素の座標位置を領域判定部31に送る。領域判定部31は、フィルタ部30からフィルタ処理を行う画素の座標位置情報を受け取ると、ROI領域設定部123が出力したROI位置情報と比較して、フィルタ処理を行う画素が注目領域に位置するか否か、また注目領域が複数存在する場合は、どの注目領域に位置するのかを判定し、その結果をフィルタ係数決定部32へ出力する。   The filter coefficient used in the filter unit 30 is determined by the following method. The filter unit 30 sends the coordinate position of the pixel to be filtered to the region determination unit 31. When the region determination unit 31 receives the coordinate position information of the pixel to be filtered from the filter unit 30, the pixel to be filtered is positioned in the attention region as compared with the ROI position information output from the ROI region setting unit 123. If there are a plurality of regions of interest, it is determined which region of interest is located, and the result is output to the filter coefficient determination unit 32.

フィルタ係数決定部32は、領域判定部31の結果と画質設定部128が出力した各領域の画質レベルから、フィルタ処理を行う画素が属する領域の画質レベルを特定し、画質レベルに対応したフィルタ係数をフィルタ部30に出力する。画質レベルとフィルタ係数の対応は、テーブルによってフィルタ係数決定部32に格納されている。例えばフィルタ部30が図7(a)によって構成されている場合、図7(b)のようなテーブルがフィルタ係数決定部32に存在する。このテーブルではi個の画質レベルに対して、フィルタ係数a〜aが定められている。フィルタ係数決定部32は、特定したフィルタ処理を行う画素が属する領域の画質に対応したフィルタ係数a〜aを、フィルタ部30に対して出力する。なお、テーブルにはすべての画質レベルに対してフィルタ係数を用意する必要はなく、代表的な画質レベルに対してのみフィルタ係数を用意してもよい。この場合、テーブルにない画質レベルに対しては、その画質レベルに近いフィルタ係数をフィルタ部30に対して出力する。 The filter coefficient determination unit 32 specifies the image quality level of the region to which the pixel to be filtered belongs from the result of the region determination unit 31 and the image quality level of each region output from the image quality setting unit 128, and the filter coefficient corresponding to the image quality level Is output to the filter unit 30. The correspondence between the image quality level and the filter coefficient is stored in the filter coefficient determination unit 32 by a table. For example, when the filter unit 30 is configured as illustrated in FIG. 7A, a table as illustrated in FIG. 7B exists in the filter coefficient determination unit 32. For i number of quality levels in this table, the filter coefficients a 1 ~a n is defined. Filter coefficient determining unit 32, the filter coefficients a 1 ~a n corresponding to the image quality of a region where the pixel to be identified filter belongs, and outputs to the filter section 30. Note that it is not necessary to prepare filter coefficients for all image quality levels in the table, and filter coefficients may be prepared only for representative image quality levels. In this case, for an image quality level not included in the table, a filter coefficient close to the image quality level is output to the filter unit 30.

図7では、水平方向の画素にローパスフィルタを施す例を示したが、同様な構成のローパスフィルタを垂直方向の画素に対して施してもよい。また、水平・垂直の両方に対してローパスフィルタを施してもよい。この場合、ローパスフィルタを施す画素数nは水平方向と垂直方向で異なってもよい。解像度レベルとフィルタ係数の対応テーブルは水平方向のローパスフィルタと垂直方向のローパスフィルタで別々に持たしてもよいし、同じテーブルを用いてそれぞれのフィルタ係数を決定してもよい。   Although FIG. 7 shows an example in which the low-pass filter is applied to the pixels in the horizontal direction, a low-pass filter having a similar configuration may be applied to the pixels in the vertical direction. Further, a low-pass filter may be applied to both horizontal and vertical. In this case, the number n of pixels to which the low-pass filter is applied may be different in the horizontal direction and the vertical direction. The correspondence table between the resolution level and the filter coefficient may be provided separately for the horizontal low-pass filter and the vertical low-pass filter, or each filter coefficient may be determined using the same table.

また、ローパスフィルタを施す前に、原画像の各画素データに対し、下位ビットをゼロに置換する処理を施してもよい。これにより、符号化画像データを復号したときの画像と近い画像が、画像変換部124によって生成可能となる。ゼロに置換するビット数は、フィルタ係数決定部32のテーブルに、フィルタ係数と合わせて格納される。   In addition, before applying the low-pass filter, a process of substituting the lower bits with zero may be performed on each pixel data of the original image. As a result, the image conversion unit 124 can generate an image close to the image when the encoded image data is decoded. The number of bits to be replaced with zero is stored in the table of the filter coefficient determination unit 32 together with the filter coefficient.

以上のようにして、画像変換部124は、ROI領域設定部123が設定した領域ごとに、画質を異ならせた画像を生成することが可能である。   As described above, the image conversion unit 124 can generate images with different image quality for each region set by the ROI region setting unit 123.

図1の表示回路127は、表示装置140に対して表示対象となる画像を、表示装置140の仕様に合わせて出力する。例えば、表示回路127は、画素数変換工程を備えており、この工程で、表示対象の画像を表示装置140の画素数にあうように拡大・縮小を行う。そして、拡大・縮小された画像の各画素データを、表示装置140の駆動信号とともに、表示装置140に出力する。表示装置140は、表示回路127からの駆動信号と画素データをもとに、ディスプレイに画像を表示する。この表示回路127と表示装置140が、本発明の「表示部」の一例である。   The display circuit 127 in FIG. 1 outputs an image to be displayed on the display device 140 in accordance with the specifications of the display device 140. For example, the display circuit 127 includes a pixel number conversion step. In this step, the display target image is enlarged or reduced so as to match the number of pixels of the display device 140. Then, each pixel data of the enlarged / reduced image is output to the display device 140 together with a drive signal of the display device 140. The display device 140 displays an image on the display based on the drive signal and pixel data from the display circuit 127. The display circuit 127 and the display device 140 are an example of the “display unit” in the present invention.

図1のデジタルカメラ100には、表示回路127の前にスイッチSW1が備えられている。このスイッチSW1には、画像変換部124で生成されたスルー画像と、復号部126で生成された復号画像とが入力され、スイッチSW1の接続状態により、どちらかの画像が表示回路127へと出力される。   The digital camera 100 of FIG. 1 includes a switch SW1 in front of the display circuit 127. The switch SW1 receives the through image generated by the image conversion unit 124 and the decoded image generated by the decoding unit 126, and outputs either image to the display circuit 127 depending on the connection state of the switch SW1. Is done.

このスイッチSW1の接続状態は、制御部130によって制御される。例えば、デジタルカメラ100が撮像モードのとき、すなわち、符号化部125で符号化を行うときは、スイッチSW1は画像変換部124で生成されたスルー画像に接続され、スルー画像が表示回路127へ出力される。また、デジタルカメラ100が再生モードのとき、すなわち、復号部126によって符号化画像データが復号されるときは、スイッチSW1は復号部126で復号された画像に接続され、復号画像が表示回路127へ出力される。   The connection state of the switch SW1 is controlled by the control unit 130. For example, when the digital camera 100 is in the imaging mode, that is, when encoding is performed by the encoding unit 125, the switch SW1 is connected to the through image generated by the image conversion unit 124, and the through image is output to the display circuit 127. Is done. When the digital camera 100 is in the playback mode, that is, when the encoded image data is decoded by the decoding unit 126, the switch SW1 is connected to the image decoded by the decoding unit 126, and the decoded image is sent to the display circuit 127. Is output.

以上の構成によれば、符号化部125で符号化を行うときに、画像変換部124は、ROI領域設定部123で設定した各領域の画質を異ならせた画像をリアルタイムに生成し、この画像を表示装置140の表示させることができる。したがって、ユーザは、複数領域の画質を異ならせて符号化し、それを復号したときの画像イメージ、特に各領域がどのような画質レベルで符号化されるかを、表示装置に表示された画像からリアルタイムに認識することが可能になる、という効果を有する。   According to the above configuration, when encoding is performed by the encoding unit 125, the image conversion unit 124 generates an image in which the image quality of each region set by the ROI region setting unit 123 is changed in real time. Can be displayed on the display device 140. Therefore, the user encodes a plurality of areas with different image quality and decodes the image, in particular, the image quality level at which each area is encoded from the image displayed on the display device. It has the effect of being able to recognize in real time.

(実施形態2)
図8は、実施形態2に係るデジタルカメラ100の構成図である。この構成は、図1に示したデジタルカメラ100の構成と類似しているので、本実施形態に特徴的な点のみ説明し、それ以外の説明は割愛する。
(Embodiment 2)
FIG. 8 is a configuration diagram of the digital camera 100 according to the second embodiment. Since this configuration is similar to the configuration of the digital camera 100 shown in FIG. 1, only the characteristic points of this embodiment will be described, and the other description will be omitted.

図8のデジタルカメラ100には、入力装置150が備えられている。この入力装置150は、撮影モード時に、ユーザがROI領域の位置や大きさ、画質の優先度などをデジタルカメラ100に対し入力することができる。ROI領域設定部123は、入力装置150に入力されたROI領域の位置や大きさにしたがって、ROI領域を設定し、その位置情報を画像変換部124及び符合化部125へ送る。入力装置150によってROI領域が複数入力された場合は、それぞれの領域の位置情報を画像変換部124及び符合化部125へ送る。また、ROI領域設定部123は、入力装置150に入力された各ROI領域の画質の優先度にしたがって、各領域の優先度を設定し、その情報を画質設定部128へ送る。   The digital camera 100 of FIG. 8 includes an input device 150. The input device 150 allows the user to input the position and size of the ROI area, the priority of image quality, and the like to the digital camera 100 in the shooting mode. The ROI area setting unit 123 sets the ROI area according to the position and size of the ROI area input to the input device 150 and sends the position information to the image conversion unit 124 and the encoding unit 125. When a plurality of ROI regions are input by the input device 150, the position information of each region is sent to the image conversion unit 124 and the encoding unit 125. Also, the ROI area setting unit 123 sets the priority of each area according to the priority of the image quality of each ROI area input to the input device 150, and sends the information to the image quality setting unit 128.

また、入力装置150は、ユーザが表示装置140に表示された、各領域の位置、大きさ、画質レベルを確認しながら、入力装置150によってそれぞれを調整することが可能である。このとき、入力装置150に新たに入力された各領域の位置、大きさ、及び画質の優先度はROI領域設定部に反映される。また、入力装置150は、画質の優先度を変えることなく、各領域の画質レベルを調整することもできる。この画質レベルは、直接画質設定部128に反映される。   The input device 150 can be adjusted by the input device 150 while the user confirms the position, size, and image quality level of each area displayed on the display device 140. At this time, the position, size, and image quality priority of each area newly input to the input device 150 are reflected in the ROI area setting unit. The input device 150 can also adjust the image quality level of each region without changing the priority of the image quality. This image quality level is directly reflected in the image quality setting unit 128.

図9は、図8のデジタルカメラ100における、ROI領域の位置、大きさ、画質の設定及び調整を行う際のフローチャートを示したものである。デジタルカメラ100が撮像モードに設定されると(S10)、ユーザは入力装置からROI領域の位置、大きさ、及び画質の優先度を設定することができる(S11)。これらが設定されると、各領域の位置、大きさ、及び画質設定部128で適宜きめられた画質レベルがリアルタイムに表示装置140に表示される(S12)。ユーザは、表示装置140に表示された画像を確認し(S13)、ROI領域の位置、大きさ、画質の優先度、及び画質レベルを変更したい場合は、S11に戻ってこれらを調整する。また、問題なければ、ユーザは入力装置に備えられたシャッターボタンを押すことにより、設定されたROI領域の条件にしたがって、画像を符号化部125で符号化し、記録装置160に記録する(S14)。なお、S11でユーザが特にROI領域を設定しなければ、表示装置140には画像内が均一の画質になるように画像が表示され、また符合化部125では、画像内が均一の画質となるように画像を符号化する。   FIG. 9 is a flowchart for setting and adjusting the position, size, and image quality of the ROI area in the digital camera 100 of FIG. When the digital camera 100 is set to the imaging mode (S10), the user can set the position, size, and image quality priority of the ROI area from the input device (S11). When these are set, the position and size of each region and the image quality level appropriately determined by the image quality setting unit 128 are displayed on the display device 140 in real time (S12). The user confirms the images displayed on the display device 140 (S13), and if he wants to change the position, size, image quality priority, and image quality level of the ROI area, the user returns to S11 and adjusts them. If there is no problem, the user presses a shutter button provided in the input device, whereby the image is encoded by the encoding unit 125 according to the set conditions of the ROI region and recorded in the recording device 160 (S14). . If the ROI area is not set by the user in S11, the image is displayed on the display device 140 so that the image has a uniform image quality, and the encoding unit 125 has a uniform image quality in the image. The image is encoded as follows.

以上のような構成によれば、表示装置140にリアルタイムに表示された画像によって、ユーザが符号化によって得られる画質の異なる領域の位置や大きさ、画質レベルを確認し、即座に調整することができるので、ユーザの利便性が向上する。   According to the above configuration, the user can confirm the position, size, and image quality level of regions with different image quality obtained by encoding by the image displayed in real time on the display device 140, and can adjust immediately. As a result, user convenience is improved.

(実施形態3)
図10は、実施形態3に係るデジタルカメラ100の構成図である。この構成は、図2に示したデジタルカメラ100の構成と類似しているので、本実施形態に特徴的な点のみ説明し、それ以外の説明は割愛する。
(Embodiment 3)
FIG. 10 is a configuration diagram of the digital camera 100 according to the third embodiment. Since this configuration is similar to the configuration of the digital camera 100 shown in FIG. 2, only the characteristic points of this embodiment will be described, and the other description will be omitted.

図10のデジタルカメラ100は、動き検出部129が備えられている。これにより、動画撮影時に、一旦設定されたROI領域がオブジェクトの動きにあわせて追尾され、自動で設定される。動き検出部129は、指定されたオブジェクトの位置を検出し、ROI領域設定部123に出力する。オブジェクトの指定は、ユーザがしてもよいし、ユーザが指定したROI領域の中から動き検出部129が自動で認識してもよい。また、画像の全体から自動で認識してもよい。このオブジェクトの指定は、複数であってもよい。   The digital camera 100 in FIG. 10 includes a motion detection unit 129. Thereby, at the time of moving image shooting, the ROI area once set is tracked according to the movement of the object and automatically set. The motion detection unit 129 detects the position of the designated object and outputs it to the ROI region setting unit 123. The object may be specified by the user, or the motion detection unit 129 may automatically recognize the ROI area specified by the user. Moreover, you may recognize automatically from the whole image. There may be a plurality of designations of this object.

動画像の場合、オブジェクトの位置は、動きベクトルで表すことができる。以下、動きベクトル検出方法の具体例を説明する。第1に、動き検出部129は、SRAMやSDRAM等のメモリを備え、オブジェクトの指定時にそのフレーム内にて指定されたオブジェクトの画像を、参照画像として当該メモリに保存する。参照画像は、指定位置を含む所定の大きさのブロックを保存するとよい。動き検出部129は、参照画像と現フレームの画像とを比較することにより、動きベクトルを検出する。動きベクトルの算出には、ウェーブレット変換係数の高周波成分を用いて、オブジェクトの輪郭成分を特定して行うことができる。また、量子化後のウェーブレット変換係数のMSB(Most Significant Bit)ビットプレーン、もしくはMSB側から複数のビットプレーンを用いてもよい。   In the case of a moving image, the position of the object can be represented by a motion vector. Hereinafter, a specific example of the motion vector detection method will be described. First, the motion detection unit 129 includes a memory such as an SRAM or an SDRAM, and stores an image of the object designated in the frame when the object is designated as a reference image in the memory. The reference image may store a block having a predetermined size including the designated position. The motion detection unit 129 detects a motion vector by comparing the reference image with the current frame image. The motion vector can be calculated by specifying the contour component of the object using the high-frequency component of the wavelet transform coefficient. Alternatively, a quantized wavelet transform coefficient MSB (Most Significant Bit) bit plane or a plurality of bit planes from the MSB side may be used.

第2に、動き検出部129は、現フレームと、前の、例えば直前のフレームとを比較して、オブジェクトの動きベクトルを検出する。第3に、フレーム画像ではなく、ウェーブレット変換後のウェーブレット変換係数を比較して、動きベクトルを検出する。ウェーブレット変換係数は、LLサブバンド、HLサブバンド、LHサブバンド、およびHHサブバンドのいずれを用いてもよい。また、現フレームとの比較対象は、指定時に登録された参照画像でもよいし、前の、例えば直前のフレームから登録された参照画像であってもよい。   Secondly, the motion detection unit 129 detects the motion vector of the object by comparing the current frame with the previous frame, for example, the previous frame. Third, the motion vector is detected by comparing not the frame image but the wavelet transform coefficients after the wavelet transform. Any of the LL subband, the HL subband, the LH subband, and the HH subband may be used as the wavelet transform coefficient. The comparison target with the current frame may be a reference image registered at the time of designation, or may be a reference image registered from a previous frame, for example, the immediately preceding frame.

第4に、動き検出部129は、複数のウェーブレット変換係数を用いて、オブジェクトの動きベクトルを検出する。例えば、HLサブバンド、LHサブバンド、およびHHサブバンドごとに動きベクトルを検出し、それら3つの動きベクトルの平均を取ったり、その中から前フレームの動きベクトルに最も近いものを選択したりすることができる。これにより、オブジェクトの動き検出精度を高めることができる。   Fourth, the motion detection unit 129 detects the motion vector of the object using a plurality of wavelet transform coefficients. For example, a motion vector is detected for each of the HL subband, the LH subband, and the HH subband, and the average of these three motion vectors is selected, or the closest one to the motion vector of the previous frame is selected. be able to. Thereby, the motion detection accuracy of the object can be increased.

なお、図10において動き検出部129の入力は、フレームバッファ122に蓄積された画像としたが、上述のように、動き検出部129はウェーブレット変換係数を用いて動きベクトルを算出してもよく、この場合は、図3に示す符号化部125のウェーブレット変換部10の出力を動き検出部129の入力としてもよい。   In FIG. 10, the input of the motion detection unit 129 is an image stored in the frame buffer 122. However, as described above, the motion detection unit 129 may calculate a motion vector using a wavelet transform coefficient. In this case, the output of the wavelet transform unit 10 of the encoding unit 125 shown in FIG.

また、ユーザは、画像内においてこのような動きベクトルを検出する範囲を予め動き検出部129に指定してもよい。例えば、コンビニエンスストア等の店舗の監視カメラに本画像符号化装置を適用する場合、レジから一定の範囲に入った人物等のオブジェクトを注目し、そこから出たオブジェクトの動きを注目しないといった処理が可能になる。   In addition, the user may designate a range in which such a motion vector is detected in the image to the motion detection unit 129 in advance. For example, when the present image encoding apparatus is applied to a surveillance camera in a store such as a convenience store, processing such as paying attention to an object such as a person who has entered a certain range from a cash register and not paying attention to the movement of the object coming out of the object. It becomes possible.

ROI領域設定部123は、動き検出部129からオブジェクトの動きベクトル等の位置情報を取得し、それに対応させてROI領域を移動させる。動き検出部129の検出方法により、初期設定のROI領域の位置からの移動量、または直前のフレームからの移動量を算出し、現フレームのROI領域の位置を決定する。   The ROI region setting unit 123 acquires position information such as a motion vector of the object from the motion detection unit 129, and moves the ROI region in accordance with the position information. The amount of movement from the position of the initially set ROI region or the amount of movement from the immediately preceding frame is calculated by the detection method of the motion detection unit 129, and the position of the ROI region of the current frame is determined.

画像変換部124は、ROI領域設定部123のROI領域の位置情報、及び画質設定部128の画質レベルに従って、各領域の画質が異なるように画像変換を行う。また、符号化部125も同様に、ROI領域設定部123のROI領域の位置情報、及び画質設定部128の画質レベルに従って、各領域の画質が異なるように符号化する。そして、デジタルカメラ100が撮像モードのとき、すなわち、符号化部125で符号化を行うときは、画像変換部124で生成されたスルー画像がリアルタイムに表示回路127へ出力される。   The image conversion unit 124 performs image conversion so that the image quality of each region differs according to the position information of the ROI region of the ROI region setting unit 123 and the image quality level of the image quality setting unit 128. Similarly, the encoding unit 125 performs encoding so that the image quality of each region differs according to the position information of the ROI region of the ROI region setting unit 123 and the image quality level of the image quality setting unit 128. When the digital camera 100 is in the imaging mode, that is, when encoding is performed by the encoding unit 125, the through image generated by the image conversion unit 124 is output to the display circuit 127 in real time.

図11は、図10のデジタルカメラ100におけるROI領域の位置、大きさ、画質の設定及び調整を行う際のフローチャートを示したものである。デジタルカメラ100が撮像モードに設定されると(S20)、ユーザは、入力装置150を介してROI領域の位置、大きさ、および画質の優先度を入力し、これらを初期値としてROI領域設定部123に設定する(S21)。なお、ユーザがオブジェクトを指定した場合、もしくは動き検出部129が自動認識した場合、ROI領域設定部123がそのオブジェクトを含む所定の範囲をROI領域に自動設定してもよい。   FIG. 11 is a flowchart for setting and adjusting the position, size, and image quality of the ROI area in the digital camera 100 of FIG. When the digital camera 100 is set to the imaging mode (S20), the user inputs the position, size, and image quality priority of the ROI area via the input device 150, and uses these as initial values for the ROI area setting unit. 123 is set (S21). When the user designates an object or when the motion detection unit 129 automatically recognizes, the ROI region setting unit 123 may automatically set a predetermined range including the object as the ROI region.

ROI領域の形は、矩形、丸、その他の複雑な形であってもよい。ROI領域自体の形は、固定が原則であるが、画像の中心部分と周辺部分とで領域の形を可変させてもよいし、ユーザ操作により動的に可変してもよい。また、ROI領域は複数設定されてもよい。   The shape of the ROI region may be a rectangle, a circle, or other complex shapes. The shape of the ROI region itself is fixed in principle, but the shape of the region may be changed between the central portion and the peripheral portion of the image, or may be dynamically changed by a user operation. A plurality of ROI areas may be set.

ROI領域の位置、大きさ、及び画質の優先度が設定されると、各領域の位置、大きさ、及び画質設定部128で適宜きめられた画質レベルが、リアルタイムに表示装置140に表示される(S22)。ユーザは、表示装置140に表示された画像を確認し(S23)、ROI領域の位置、大きさ、画質の優先度、及び実施形態2と同様の方法で画質レベルを変更したい場合は、S21に戻ってこれらを調整する。また、問題なければ、ユーザは入力装置に備えられたシャッターボタンを押すことにより、動画像の撮影を開始する(S24)。   When the position, size, and image quality priority of the ROI area are set, the position, size, and image quality level appropriately determined by the image quality setting unit 128 are displayed on the display device 140 in real time. (S22). The user confirms the image displayed on the display device 140 (S23). If the user wants to change the position, size, priority of image quality of the ROI area, and the image quality level in the same manner as in the second embodiment, the process proceeds to S21. Go back and adjust these. If there is no problem, the user starts shooting a moving image by pressing a shutter button provided in the input device (S24).

動画像の撮影が開始されると、動き検出部129によってROI領域が追尾され、ROI領域設定部123にてROI領域の位置や大きさが自動設定される。また、実施形態1に記載した方法によって、符号化部125から出力された符号量から、各領域の画質レベルが画質設定部128にて自動設定される(S25)。そして、これら各領域の位置、大きさ、及び画質レベルを反映したスルー画像が表示される(S26)とともに、同じく各領域の位置、大きさ、及び画質レベルを反映して符号化部125で符号化が行われ、記録装置160に記録される(S27)。ユーザは動画撮影中においても、S26で表示された画像を確認し、ROI領域の位置、大きさ、画質の優先度、及び画質レベルの設定を変更することができる(S28)。また、S28では撮影を終了する支持も受け付ける。撮影の終了は、シャッターボタンを再び押すことによって認識することができる。   When shooting of a moving image is started, the ROI area is tracked by the motion detection unit 129, and the position and size of the ROI area are automatically set by the ROI area setting unit 123. Further, according to the method described in the first embodiment, the image quality level of each area is automatically set by the image quality setting unit 128 from the code amount output from the encoding unit 125 (S25). A through image reflecting the position, size, and image quality level of each area is displayed (S26), and the encoding unit 125 also reflects the position, size, and image quality level of each area. And is recorded in the recording device 160 (S27). Even during moving image shooting, the user can check the image displayed in S26 and change the position, size, image quality priority, and image quality level setting of the ROI area (S28). In S28, support for ending the shooting is also accepted. The end of shooting can be recognized by pressing the shutter button again.

S28でユーザの設定変更がない場合、S25に戻り、デジタルカメラ100は、ROI領域の位置、大きさ、画質レベルを自動設定する。また、S28でユーザの設定変更があった場合、それが撮影終了の支持か否かを判定する(S29)。撮影終了の支持であった場合は、撮影を終了する(S30)。撮影終了の支持でない場合は、ユーザから設定変更されたROI領域の位置、大きさ、画質の優先度、若しくは画質レベルをROI領域設定部123、或いは画質設定部128に反映させ、S26に戻る。   When there is no user setting change in S28, the process returns to S25, and the digital camera 100 automatically sets the position, size, and image quality level of the ROI area. If there is a user setting change in S28, it is determined whether or not this is a support for the end of shooting (S29). If it is support for the end of shooting, the shooting is ended (S30). If the photographing end is not supported, the position, size, image quality priority, or image quality level of the ROI area whose setting has been changed by the user is reflected in the ROI area setting unit 123 or the image quality setting unit 128, and the process returns to S26.

以上、このような構成によれば、次のような効果を有する。
(1)動画撮影時のように、連続して符号化を行うような場合あっても、画像変換部124によって各領域の位置、大きさ、画質レベルを反映させたスルー画像をリアルタイムに生成し、表示装置140にて見ることができるので、ユーザが常に符号化された動画像の各領域の位置、大きさ、画質レベルを即座に把握することができる。この効果は、ROI領域を追尾し、その位置や大きさ、及び画質レベルを自動設定するような場合に、自動設定された結果を即座に把握できるため、特に有効である。
(2)動画撮影のような、連続して符号化を行う場合でも、ユーザが符号化によって得られる画質の異なる領域の位置や大きさ、画質レベルを確認し、即座に設定変更することができ、更にこれらの変更がリアルタイムにスルー画像に反映されるので、ユーザの利便性が向上する。
As described above, this configuration has the following effects.
(1) Even when encoding is performed continuously as in moving image shooting, a through image reflecting the position, size, and image quality level of each area is generated in real time by the image conversion unit 124. Since it can be viewed on the display device 140, the user can immediately grasp the position, size, and image quality level of each area of the encoded moving image. This effect is particularly effective because the result of the automatic setting can be immediately grasped when the ROI area is tracked and the position, size, and image quality level are automatically set.
(2) Even in the case of continuous encoding such as movie shooting, the user can check the position, size, and image quality level of areas with different image quality obtained by encoding, and can immediately change the settings. Furthermore, since these changes are reflected in the through image in real time, the convenience for the user is improved.

(実施形態4)
実施形態4に係るデジタルカメラ100は図1と同じ構成を持つが、画像変換部124の働きが異なる。本実施形態における画像変換部124は、画像が持つ輝度データを各画素毎に変換する工程を備えており、フレームバッファ122より入力された画像データ(原画像)に対し、ROI領域設定部123によって設定された各領域の画質が異なるように、輝度変換を行う。
(Embodiment 4)
The digital camera 100 according to the fourth embodiment has the same configuration as that in FIG. 1, but the function of the image conversion unit 124 is different. The image conversion unit 124 according to the present embodiment includes a step of converting the luminance data of the image for each pixel. The ROI region setting unit 123 applies the image data (original image) input from the frame buffer 122 to the image data. Brightness conversion is performed so that the image quality of each set region is different.

画像変換部124の構成図を図12(a)に示す。画像変換部124は、輝度変換部33、領域判定部31、及び輝度変換係数決定部34を備えている。輝度変換部33は、入力された原画像の各画素に対して輝度変換を行い、スルー画像を生成する。輝度変換は以下の式によって行う。   A configuration diagram of the image conversion unit 124 is shown in FIG. The image conversion unit 124 includes a luminance conversion unit 33, a region determination unit 31, and a luminance conversion coefficient determination unit 34. The luminance conversion unit 33 performs luminance conversion on each pixel of the input original image to generate a through image. The luminance conversion is performed by the following formula.

TPY(x、y)=aY(x、y)・OPY(x、y) ・・・(1)
ここで、OPYは原画像の輝度データ、TPYはスルー画像の輝度データであり、(x、y)はそれぞれの画像における画素位置を表している。また、aY(x、y)は、原画像の画素(x、y)における輝度変換係数である。
TPY (x, y) = aY (x, y) .OPY (x, y) (1)
Here, OPY is the luminance data of the original image, TPY is the luminance data of the through image, and (x, y) represents the pixel position in each image. Further, aY (x, y) is a luminance conversion coefficient in the pixel (x, y) of the original image.

この輝度変換係数aY(x、y)は以下の方法で決定される。輝度変換部33は、輝度変換を行う画素の座標位置(x、y)を領域判定部31に送る。領域判定部31は、輝度変換部33から画素の座標位置情報を受け取ると、ROI領域設定部123が出力したROI位置情報と比較して、輝度変換を行う画素が注目領域に位置するか否か、また注目領域が複数存在する場合は、どの注目領域に位置するのかを判定し、その結果を輝度変換係数決定部34へ出力する。   The luminance conversion coefficient aY (x, y) is determined by the following method. The luminance conversion unit 33 sends the coordinate position (x, y) of the pixel that performs luminance conversion to the region determination unit 31. When the region determination unit 31 receives the coordinate position information of the pixel from the luminance conversion unit 33, the region determination unit 31 compares the ROI position information output from the ROI region setting unit 123 with respect to whether or not the pixel on which the luminance conversion is performed is located in the attention region. If there are a plurality of regions of interest, the region of interest is determined, and the result is output to the luminance conversion coefficient determination unit 34.

輝度変換係数決定部34は、領域判定部31の結果と画質設定部128が出力した各領域の画質レベルから、輝度変換を行う画素が属する領域の画質レベルを特定し、画質レベルに対応した輝度変換係数aY(x、y)を輝度変換部33に出力する。画質レベルと輝度変換係数の対応は、テーブルによって輝度変換係数決定部34に格納されている。図12(b)は、画質レベルと輝度変換係数の対応を示したテーブルの一例である。このテーブルではi個の画質レベルに対して、輝度変換係数が定められている。高画質に対応した画質レベルほど輝度変換係数として1に近い値が、低画質に対応した画質レベルほど輝度変換係数として0に近い値がテーブルに格納されている。これにより、高画質な領域の輝度レベルは、原画像に近いレベルに保たれ、低画質な領域の輝度レベルは小さく抑えられる。したがって、画像変換部140によって出力されるスルー画像は、画質レベルが低い領域ほど暗い画像となる。   The luminance conversion coefficient determination unit 34 specifies the image quality level of the region to which the pixel to be subjected to luminance conversion belongs from the result of the region determination unit 31 and the image quality level of each region output by the image quality setting unit 128, and the luminance corresponding to the image quality level. The conversion coefficient aY (x, y) is output to the luminance conversion unit 33. The correspondence between the image quality level and the luminance conversion coefficient is stored in the luminance conversion coefficient determination unit 34 by a table. FIG. 12B is an example of a table showing the correspondence between image quality levels and luminance conversion coefficients. In this table, luminance conversion coefficients are determined for i image quality levels. A value closer to 1 is stored as a luminance conversion coefficient for an image quality level corresponding to high image quality, and a value closer to 0 is stored as a luminance conversion coefficient for an image quality level corresponding to low image quality. As a result, the luminance level of the high image quality area is kept close to the original image, and the luminance level of the low image quality area is kept small. Therefore, the through image output by the image conversion unit 140 becomes a darker image as the image quality level is lower.

なお、テーブルにはすべての画質レベルに対して輝度変換係数を用意する必要はなく、代表的な画質レベルに対してのみ輝度変換係数を用意してもよい。この場合、テーブルにない画質レベルに対しては、その画質レベルに近い輝度変換係数を輝度変換部33に対して出力する。   Note that it is not necessary to prepare luminance conversion coefficients for all image quality levels in the table, and luminance conversion coefficients may be prepared only for representative image quality levels. In this case, for an image quality level not included in the table, a luminance conversion coefficient close to the image quality level is output to the luminance conversion unit 33.

以上の構成によれば、符号化部125で符号化を行うときに、画像変換部124は、簡単な構成によって、ROI領域設定部123で設定した各領域の画質レベルを、輝度レベルの明暗で表した画像をリアルタイムに生成し、この画像を表示装置140の表示させることができる。したがって、ユーザは、複数領域の画質を異ならせて符号化した画像において、各領域がどのような画質レベルで符号化されるかを、表示装置に表示された画像からリアルタイムに認識することが可能になる、という効果を有する。さらに、人間の目は輝度の変化に敏感であるため、各領域の輝度を異ならせた画像を表示装置に表示すれば、符号化した際の各領域の画質レベルを容易に把握することができる。   According to the above configuration, when encoding is performed by the encoding unit 125, the image conversion unit 124 sets the image quality level of each region set by the ROI region setting unit 123 with the brightness level of light and dark with a simple configuration. The represented image can be generated in real time, and this image can be displayed on the display device 140. Therefore, the user can recognize in real time from the image displayed on the display device what image quality level each region is encoded in an image encoded with different image quality in a plurality of regions. It has the effect of becoming. Furthermore, since the human eye is sensitive to changes in luminance, the image quality level of each region at the time of encoding can be easily grasped by displaying an image with different luminance in each region on the display device. .

(実施形態5)
実施形態5に係るデジタルカメラ100は図1と同じ構成を持つが、画像変換部124の働きが異なる。本実施形態における画像変換部124は、画像が持つ色差データを各画素毎に変換する工程を備えており、フレームバッファ122より入力された画像データ(原画像)に対し、ROI領域設定部123によって設定された各領域の画質が異なるように、色変換を行う。
(Embodiment 5)
The digital camera 100 according to the fifth embodiment has the same configuration as that in FIG. 1, but the function of the image conversion unit 124 is different. The image conversion unit 124 according to the present embodiment includes a step of converting color difference data of an image for each pixel, and the ROI region setting unit 123 performs image data (original image) input from the frame buffer 122. Color conversion is performed so that the image quality of each set region is different.

本実施形態における画像変換部124の構成図を図13(a)に示す。画像変換部124は、色変換部35、領域判定部31、及び色変換係数決定部36を備えている。色変換部35は、入力された原画像の各画素が持つ色差データに対して、色変換係数を乗算することにより色変換を行い、スルー画像を生成する。色変換は以下の式によって行う。   FIG. 13A shows a configuration diagram of the image conversion unit 124 in the present embodiment. The image conversion unit 124 includes a color conversion unit 35, a region determination unit 31, and a color conversion coefficient determination unit 36. The color conversion unit 35 performs color conversion by multiplying the color difference data of each pixel of the input original image by a color conversion coefficient to generate a through image. Color conversion is performed by the following formula.

TPC(x、y)=aC(x、y)・OPC(x、y) ・・・(2)
ここで、OPCは原画像の色差データ、TPCはスルー画像の色差データであり、(x、y)はそれぞれの画像における画素位置を表している。また、それぞれの色差データが取りうる値の範囲は、ともに−128〜127である。aC(x、y)は、原画像の画素(x、y)における色変換係数である。
TPC (x, y) = aC (x, y) .OPC (x, y) (2)
Here, OPC is the color difference data of the original image, TPC is the color difference data of the through image, and (x, y) represents the pixel position in each image. The range of values that each color difference data can take is -128 to 127. aC (x, y) is a color conversion coefficient in the pixel (x, y) of the original image.

この色変換係数aC(x、y)は以下の方法で決定される。色変換部35は、色変換を行う画素の座標位置(x、y)を領域判定部31に送る。領域判定部31は、色変換部35から画素の座標位置情報を受け取ると、ROI領域設定部123が出力したROI位置情報と比較して、色変換を行う画素が注目領域に位置するか否か、また注目領域が複数存在する場合は、どの注目領域に位置するのかを判定し、その結果を色変換係数決定部36へ出力する。   The color conversion coefficient aC (x, y) is determined by the following method. The color conversion unit 35 sends the coordinate position (x, y) of the pixel that performs color conversion to the region determination unit 31. When the region determination unit 31 receives the coordinate position information of the pixel from the color conversion unit 35, the region determination unit 31 compares the ROI position information output from the ROI region setting unit 123 with respect to whether or not the pixel on which color conversion is performed is located in the attention region. If there are a plurality of regions of interest, the region of interest is determined, and the result is output to the color conversion coefficient determination unit 36.

色変換係数決定部36は、領域判定部31の結果と画質設定部128が出力した各領域の画質レベルから、色変換を行う画素が属する領域の画質レベルを特定し、画質レベルに対応した色変換係数aC(x、y)を色変換部35に出力する。画質レベルと色変換係数の対応は、テーブルによって色変換係数決定部34に格納されている。図13(b)は、画質レベルと色変換係数の対応を示したテーブルの一例である。このテーブルではi個の画質レベルに対して、色変換係数が定められている。高画質に対応した画質レベルほど色変換係数として1に近い値が、低画質に対応した画質レベルほど色変換係数として0に近い値がテーブルに格納されている。これにより、高画質な領域の色レベルは、原画像に近いレベルに保たれ、低画質な領域の色レベルは小さく抑えられる。したがって、画像変換部140によって出力されるスルー画像は、画質レベルが低い領域ほど色のない、すなわち白黒に近い画像となり、画質レベルの差異が容易に認識できる。   The color conversion coefficient determination unit 36 specifies the image quality level of the region to which the pixel to be color converted belongs from the result of the region determination unit 31 and the image quality level of each region output by the image quality setting unit 128, and the color corresponding to the image quality level. The conversion coefficient aC (x, y) is output to the color conversion unit 35. The correspondence between the image quality level and the color conversion coefficient is stored in the color conversion coefficient determination unit 34 by a table. FIG. 13B is an example of a table showing the correspondence between image quality levels and color conversion coefficients. In this table, color conversion coefficients are defined for i image quality levels. A value close to 1 is stored as a color conversion coefficient for an image quality level corresponding to high image quality, and a value close to 0 is stored as a color conversion coefficient for an image quality level corresponding to low image quality. As a result, the color level of the high-quality area is kept close to the original image, and the color level of the low-quality area is kept small. Accordingly, the through image output by the image conversion unit 140 becomes an image having no color, that is, close to black and white, as the image quality level is lower, and the difference in image quality level can be easily recognized.

なお、テーブルにはすべての画質レベルに対して色変換係数を用意する必要はなく、代表的な画質レベルに対してのみ色変換係数を用意してもよい。この場合、テーブルにない画質レベルに対しては、その画質レベルに近い色変換係数を色変換部35に対して出力する。   Note that it is not necessary to prepare color conversion coefficients for all image quality levels in the table, and color conversion coefficients may be prepared only for representative image quality levels. In this case, for an image quality level not included in the table, a color conversion coefficient close to the image quality level is output to the color converter 35.

また、色差データにはCb,Crの2種類存在するが、画質レベルと色変換係数の対応を示したテーブルは、それぞれ同じものを使用してもよいし、異なるテーブルを用意して使用してもよい。また、色差データCb,Crのどちらか一方のみを色(2)による変換を行い、もう一方の色差データは原画像のデータをそのままスルー画像のデータとして出力しても良い。   Further, although there are two types of color difference data, Cb and Cr, the same table may be used for the correspondence between the image quality level and the color conversion coefficient, or different tables may be prepared and used. Also good. Alternatively, only one of the color difference data Cb and Cr may be converted by the color (2), and the other color difference data may be output as original image data as it is.

以上の構成によれば、符号化部125で符号化を行うときに、画像変換部124は、簡単な構成によって、ROI領域設定部123で設定した各領域の画質レベルを、色レベルの違いで表した画像をリアルタイムに生成し、この画像を表示装置140の表示させることができる。また、符号化した際の各領域の画質レベルの違いが色彩の差異によって表示されるため、表示される画像はすべての領域においてはっきりと表示される。したがって、ユーザは符号化された画像の各領域の画質レベルをリアルタイムに認識できるとともに、画像全体に映っている内容をすべての領域で把握することができる、という効果を有する。   According to the above configuration, when encoding is performed by the encoding unit 125, the image conversion unit 124 can change the image quality level of each region set by the ROI region setting unit 123 with a difference in color level with a simple configuration. The represented image can be generated in real time, and this image can be displayed on the display device 140. Further, since the difference in image quality level of each area when encoded is displayed by the difference in color, the displayed image is clearly displayed in all areas. Therefore, the user can recognize the image quality level of each area of the encoded image in real time and can grasp the contents shown in the entire image in all areas.

(実施形態6)
実施形態6に係るデジタルカメラ100は図1と同じ構成を持つが、画像変換部124の働きが異なる。本実施形態における画像変換部124は、画像に対して網掛けを行う工程を備えており、フレームバッファ122より入力された画像データ(原画像)に対し、ROI領域設定部123によって設定された各領域の画質が異なるように、網掛け処理を行う。網掛け処理は、一定の割合で、画素データを黒レベル若しくは灰色レベルに置換することである。
(Embodiment 6)
The digital camera 100 according to the sixth embodiment has the same configuration as that in FIG. 1, but the function of the image conversion unit 124 is different. The image conversion unit 124 according to the present embodiment includes a step of shading an image, and each image data (original image) input from the frame buffer 122 is set by the ROI region setting unit 123. The shading process is performed so that the image quality of the areas is different. The shading process is to replace pixel data with a black level or a gray level at a certain rate.

本実施形態における画像変換部124の構成図を図14に示す。画像変換部124は、黒データ置換部37、領域判定部31、及び網掛け判定部38を備えている。黒データ置換部37は、入力された原画像の各画素のうち、後述の網掛け判定部38によって指定された画素に対して、画素値を黒データに置換する。すなわち、黒データに置換対象の画素データを輝度、色差ともに零に置換する。それ以外のデータは、原画像の画素値をそのままスルー画像として出力する。   FIG. 14 shows a configuration diagram of the image conversion unit 124 in the present embodiment. The image conversion unit 124 includes a black data replacement unit 37, a region determination unit 31, and a shading determination unit 38. The black data replacement unit 37 replaces the pixel value with black data for the pixel specified by the shading determination unit 38 described later among the pixels of the input original image. That is, the pixel data to be replaced is replaced with black data for both luminance and color difference to zero. For other data, the pixel value of the original image is output as it is as a through image.

黒データに置換する画素は以下の方法で決定される。黒データ置換部37は、処理対象となる画素の座標位置を領域判定部31に送る。領域判定部31は、黒データ置換部35から画素の座標位置情報を受け取ると、ROI領域設定部123が出力したROI位置情報と比較して、処理対象の画素が注目領域に位置するか否か、また注目領域が複数存在する場合は、どの注目領域に位置するのかを判定し、その結果を網掛け判定部38へ出力する。   The pixel to be replaced with black data is determined by the following method. The black data replacement unit 37 sends the coordinate position of the pixel to be processed to the region determination unit 31. Upon receiving the pixel coordinate position information from the black data replacement unit 35, the region determination unit 31 compares the ROI position information output from the ROI region setting unit 123 with respect to whether or not the pixel to be processed is located in the attention region. If there are a plurality of attention areas, it is determined which attention area is located, and the result is output to the shading determination section 38.

網掛け判定部38は、領域判定部31の結果と画質設定部128が出力した各領域の画質レベルから、処理対象の画素が属する領域の画質レベルを特定する。網掛け判定部38は、この画質レベルに対応して、処理対象の画素が属する領域における、黒データに置換する画素の割合を決定する。そして、網掛け判定部38は、決定された黒データに置換する画素の割合に応じて、処理対象の画素を黒レベルに置換するか否かを判定し、この情報を黒レベル置換部37へ送る。   The shading determination unit 38 specifies the image quality level of the region to which the pixel to be processed belongs, based on the result of the region determination unit 31 and the image quality level of each region output by the image quality setting unit 128. The shading determination unit 38 determines the ratio of pixels to be replaced with black data in the region to which the pixel to be processed belongs, corresponding to the image quality level. Then, the shading determination unit 38 determines whether to replace the pixel to be processed with the black level according to the determined ratio of the pixel to be replaced with the black data, and sends this information to the black level replacement unit 37. send.

画質レベルと黒データに置換する画素の割合の対応は、テーブルによって網掛け判定部38に格納されている。このテーブルでは複数の画質レベルに対して、黒データに置換する画素の割合が定められている。高画質に対応した画質レベルほど黒データに置換する画素の割合は零に近く、さらに最高画質レベルでは、その割合は零である。この場合、高画質の領域において、原画像の各画素がほぼそのままスルー画像として出力されることになる。一方、低画質に対応した画質レベルほど、黒データに置換する画素の割合は1に近い値になるように、テーブルに格納されている。これにより、低画質の領域に属する多くの画素が、黒レベルに置換される。したがって、画像変換部140によって出力されるスルー画像は、画質レベルが低い領域ほど網掛けの濃度が濃い画像となる。   The correspondence between the image quality level and the ratio of pixels to be replaced with black data is stored in the shading determination unit 38 by a table. In this table, the ratio of pixels to be replaced with black data is determined for a plurality of image quality levels. As the image quality level corresponds to high image quality, the ratio of pixels replaced with black data is closer to zero, and at the highest image quality level, the ratio is zero. In this case, each pixel of the original image is output as it is as a through image in the high-quality area. On the other hand, the image quality level corresponding to the low image quality is stored in the table so that the ratio of pixels to be replaced with black data becomes a value close to 1. As a result, many pixels belonging to the low image quality area are replaced with the black level. Accordingly, the through image output by the image conversion unit 140 becomes an image having a higher density of shading in a region where the image quality level is lower.

なお、テーブルにはすべての画質レベルに対して黒データに置換する画素の割合を用意する必要はなく、代表的な画質レベルに対してのみその割合を用意してもよい。この場合、テーブルにない画質レベルに対しては、その画質レベルに近い割合を設定する。   In the table, it is not necessary to prepare the ratio of pixels to be replaced with black data for all image quality levels, and the ratio may be prepared only for representative image quality levels. In this case, a ratio close to the image quality level is set for an image quality level not in the table.

以上の構成によれば、符号化部125で符号化を行うときに、画像変換部124は、ROI領域設定部123で設定した各領域の画質レベルを、網掛けの濃度の違いで表した画像をリアルタイムに生成し、この画像を表示装置140の表示させることができる。したがって、ユーザが、複数領域の画質を異ならせて符号化した画像において、各領域がどのような画質レベルで符号化されるかを、表示装置に表示された画像からリアルタイムに認識できる、という効果を有する。また、網掛けの工程は、一定の画素間隔ごとに画像データを置換すれば実現できるので、簡単な構成で容易に実装可能である。   According to the above configuration, when encoding is performed by the encoding unit 125, the image conversion unit 124 is an image that represents the image quality level of each area set by the ROI area setting unit 123 by the difference in shaded density. Can be generated in real time, and this image can be displayed on the display device 140. Therefore, an effect that the user can recognize in real time from the image displayed on the display device what image quality level each region is encoded in an image encoded with different image quality in a plurality of regions. Have Further, since the shading process can be realized by replacing the image data at regular pixel intervals, it can be easily implemented with a simple configuration.

なお、この実施形態では、画像変換部124は、一定の割合で原画像の画素を黒データに置換したが、黒データではなく、ある一定の色のデータ(例えば灰色データ)に置換してもよい。   In this embodiment, the image conversion unit 124 replaces the pixels of the original image with black data at a constant rate. However, the image conversion unit 124 does not replace the black data with data of a certain color (for example, gray data). Good.

以上、本発明を実施形態をもとに説明した。これらの実施形態は例示であり、それらの各構成要素の組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。   The present invention has been described based on the embodiments. It is to be understood by those skilled in the art that these embodiments are exemplifications, and that various modifications can be made to combinations of the respective components, and such modifications are also within the scope of the present invention.

例えば、本発明の実施形態として、画像変換部124において、画質変換、輝度変換、色変換、及び網掛けによって画像変換を行う例示し、それぞれについて異なった構成を示したが、それぞれ専用の構成をもつのではなく、図7に示すようなフィルタを1つ搭載し、フィルタの係数を変更することによって、画質変換、輝度変換、色変換、及び網掛けをできるようにしてもよい。   For example, as an embodiment of the present invention, the image conversion unit 124 exemplifies image conversion by image quality conversion, luminance conversion, color conversion, and shading. Instead of having one filter as shown in FIG. 7 and changing the coefficient of the filter, it may be possible to perform image quality conversion, luminance conversion, color conversion, and shading.

この場合、図7のフィルタによって画質変換を行う際は、実施形態1にて記載した通りにフィルタ係数を設定すればよい。輝度変換を行うときは、輝度データに対して、フィルタ係数aに図12(b)のテーブルに示された輝度変換係数を設定し、そのほかのフィルタ係数はすべて0にする。また、色差データはフィルタを通さずに出力する、若しくは、フィルタ係数aを1、その他の係数を0に設定する。 In this case, when image quality conversion is performed using the filter of FIG. 7, the filter coefficients may be set as described in the first embodiment. When performing luminance conversion, the luminance data, and sets the luminance transform coefficients shown in the table shown in FIG. 12 (b) the filter coefficients a m, to all other filter coefficients 0. Further, the color difference data is output without passing through the filter, or to set the filter coefficients a m 1, the other coefficients to zero.

色変換を行うときは、輝度変換のときとは逆に、色差データに対して、フィルタ係数aに図13(b)のテーブルに示された色変換係数を設定し、そのほかのフィルタ係数はすべて0にする。また、輝度データはフィルタを通さずに出力する、若しくは、フィルタ係数aを1、その他の係数を0に設定する。 When performing color conversion, contrary to the case of the luminance conversion, the color-difference data, to set the color conversion coefficients shown in the table shown in FIG. 13 (b) the filter coefficients a m, other filter coefficients Set all to zero. The luminance data is outputted without passing through the filter, or the filter coefficients a m 1, the other coefficients set to zero.

網掛けを行うときは、原画像の画素を黒データに置換する際は、すべてのフィルタ係数を0に設定し、それ以外のときは、フィルタ係数aを1に、その他の係数を0に設定することにより、網掛けを実現できる。 When performing shading, when replacing the pixels of the original image to black data, set all the filter coefficients to zero. Otherwise, the filter coefficients a m to 1, the other coefficients to zero By setting, shading can be realized.

この構成により、表示装置に表示するスルー画像において、各領域の画質レベルを表現する方法を、画質・輝度・色・網掛けの濃淡のどれにするか、ユーザの意思で選択することができ、よりユーザの利便性が向上する。   With this configuration, in the through image displayed on the display device, the method of expressing the image quality level of each region can be selected at the user's will, which of image quality, luminance, color, and shading density, User convenience is further improved.

また、本発明の実施形態では、符号化部がJPEG2000方式で画像を符号化する例を示したが、これに限らず、2つ以上の複数の領域を異なる画質で符号化する方式であればよい。   In the embodiment of the present invention, an example in which the encoding unit encodes an image using the JPEG2000 method has been described. However, the present invention is not limited thereto, and any method can be used as long as two or more regions are encoded with different image quality. Good.

また、本発明の実施形態では、注目領域を設定し、これ以外の領域を非注目領域として画質を異ならせて符号化するデジタルカメラの例を示したが、これに限るものではなく、例えば非注目領域を設定するようなデジタルカメラも本発明の範疇である。また、注目領域、非注目領域といった区別をせずに、画像を優先度に応じた複数の領域に分けてもよい。上記の実施の形態では、非注目領域と複数の注目領域に優先順位をつけているため、実質的には、非注目領域と注目領域とは優先度の違いがあるにすぎないと捉えることもでき、非注目領域と注目領域の区別をなくして、優先度別に領域を分けた場合でも、同様の処理が可能である。   In the embodiment of the present invention, an example of a digital camera that sets a region of interest and encodes other regions as non-regions of interest with different image quality is shown. However, the present invention is not limited to this. A digital camera that sets a region of interest is also within the scope of the present invention. Further, the image may be divided into a plurality of areas according to the priority without distinguishing between the attention area and the non-attention area. In the above embodiment, since priority is given to a non-attention area and a plurality of attention areas, it can be considered that there is substantially only a difference in priority between the non-attention area and the attention area. The same processing can be performed even when the non-attention area and the attention area are not distinguished and the areas are divided by priority.

さらに、本発明の実施形態では、すべてデジタルカメラについて説明したが、これに限るものではない。例えば、一旦記録装置に記録された画像に対し、注目領域を設定して符号化するような画像処理装置に対しても、本発明に含まれる。   Furthermore, in the embodiments of the present invention, all digital cameras have been described. However, the present invention is not limited to this. For example, the present invention includes an image processing apparatus that sets a region of interest and encodes an image once recorded in the recording apparatus.

実施形態1に係るデジタルカメラの構成図である。1 is a configuration diagram of a digital camera according to Embodiment 1. FIG. 原画像に複数の注目領域が設けられた場合の優先度の設定例を説明する図である。It is a figure explaining the example of a setting of the priority in case the some attention area is provided in the original image. 実施形態1に係る符号化部の構成図である。3 is a configuration diagram of an encoding unit according to Embodiment 1. FIG. 原画像の注目領域に対応するウェーブレット変換係数を特定するためのマスクを説明する図である。It is a figure explaining the mask for specifying the wavelet transform coefficient corresponding to the attention area | region of an original image. 原画像のウェーブレット変換係数の下位ビットが零置換される様子を説明する図である。It is a figure explaining a mode that the low-order bit of the wavelet transform coefficient of an original image is zero-substituted. 実施形態1に係る画像変換部の構成図である。2 is a configuration diagram of an image conversion unit according to Embodiment 1. FIG. 実施形態1に係るフィルタ部の構成図と、画質レベルとフィルタ係数の対応関係を示すテーブルである。5 is a configuration diagram of a filter unit according to the first embodiment, and a table showing a correspondence relationship between an image quality level and a filter coefficient. 実施形態2に係るデジタルカメラの構成図である。6 is a configuration diagram of a digital camera according to Embodiment 2. FIG. 実施形態2に係るデジタルカメラにおいて、表示画像を見ながらROI領域の位置、大きさ、画質等の設定を行うフローチャートである。9 is a flowchart for setting the position, size, image quality, and the like of an ROI area while viewing a display image in the digital camera according to the second embodiment. 実施形態3に係るデジタルカメラの構成図である。FIG. 6 is a configuration diagram of a digital camera according to a third embodiment. 実施形態3に係るデジタルカメラにおいて、表示画像を見ながらROI領域の位置、大きさ、画質等の設定を行うフローチャートである。14 is a flowchart for setting the position, size, image quality, and the like of an ROI area while viewing a display image in the digital camera according to the third embodiment. 実施形態4に係る画像変換部の構成図と、画質レベルと輝度変換係数の対応関係を示すテーブルである。10 is a configuration diagram of an image conversion unit according to a fourth embodiment, and a table showing a correspondence relationship between an image quality level and a luminance conversion coefficient. 実施形態5に係る画像変換部の構成図と、画質レベルと色変換係数の対応関係を示すテーブルである。10 is a configuration diagram of an image conversion unit according to a fifth embodiment, and a table showing a correspondence relationship between an image quality level and a color conversion coefficient. 実施形態6に係る画像変換部の構成図である。FIG. 10 is a configuration diagram of an image conversion unit according to a sixth embodiment.

符号の説明Explanation of symbols

30 フィルタ部
31 領域判定部
32 フィルタ係数決定部
33 輝度変換部
34 輝度変換係数決定部
35 色変換部
36 色変換係数決定部
37 黒データ置換部
38 網掛け判定部
100 デジタルカメラ
110 CCD
120 画像処理回路
123 ROI領域設定部
124 画像変換部
125 符号化部
126 復号部
127 表示回路
128 画質設定部
129 動き検出部
130 記録装置
140 表示装置
150 入力装置
DESCRIPTION OF SYMBOLS 30 Filter part 31 Area | region determination part 32 Filter coefficient determination part 33 Luminance conversion part 34 Luminance conversion coefficient determination part 35 Color conversion part 36 Color conversion coefficient determination part 37 Black data replacement part 38 Shading determination part 100 Digital camera 110 CCD
DESCRIPTION OF SYMBOLS 120 Image processing circuit 123 ROI area | region setting part 124 Image conversion part 125 Coding part 126 Decoding part 127 Display circuit 128 Image quality setting part 129 Motion detection part 130 Recording apparatus 140 Display apparatus 150 Input apparatus

Claims (13)

画像内を複数の領域に設定する領域設定部と、
画像データを、前記領域設定部にて設定された各領域毎に画質を異ならせて符号化する符号化部と、
前記画像データに対して所定の処理を施すことにより画像データの変換を行い、この変換の度合いは、前記符号化手段によって符号化する各領域の画質レベルに応じて、各領域毎に決定される画像変換部と、
前記画像変換部によって変換された画像データをディスプレイ上に表示させる表示部と、
を具備することを特徴とした画像処理装置。
An area setting unit for setting an image in a plurality of areas;
An encoding unit that encodes image data with different image quality for each region set by the region setting unit;
The image data is converted by performing predetermined processing on the image data, and the degree of this conversion is determined for each area according to the image quality level of each area encoded by the encoding means. An image conversion unit;
A display unit for displaying the image data converted by the image conversion unit on a display;
An image processing apparatus comprising:
前記画像変換部は、前記画質レベルが高い領域ほど、前記変換の度合いを小さくし、前記画質レベルが低い領域ほど、前記変換の度合いを大きくすることを特徴とした請求項1に記載の画像処理装置。 2. The image processing according to claim 1, wherein the image conversion unit decreases the degree of conversion in a region where the image quality level is high, and increases the degree of conversion in a region where the image quality level is low. apparatus. 前記所定の処理は、前記画像データに対し、前記変換の度合いに応じて決められたフィルタ係数を用いてフィルタリングすることにより、前記画像データの変換を行うことを特徴とした請求項1又は2に記載の画像処理装置。 3. The image processing apparatus according to claim 1, wherein the predetermined process performs the conversion of the image data by filtering the image data using a filter coefficient determined according to the degree of conversion. The image processing apparatus described. 前記所定の処理は、前記変換の度合いに応じて決められた係数を前記画像データに乗算するにより、前記画像データの変換を行うことを特徴とした請求項1又は2に記載の画像処理装置。 The image processing apparatus according to claim 1, wherein the predetermined process performs the conversion of the image data by multiplying the image data by a coefficient determined according to the degree of the conversion. 前記所定の処理は、前記画像データのうち、前記変換の度合いに応じて決められた割合で、特定の画素の画像データを一定の値に置換することにより、前記画像データの変換を行うことを特徴とした請求項1又は2に記載の画像処理装置。 The predetermined processing includes converting the image data by replacing the image data of specific pixels with a constant value at a ratio determined according to the degree of conversion in the image data. The image processing apparatus according to claim 1, wherein the image processing apparatus is characterized. 前記符号化部によって得られた符号化データを復号する復号部と、
前記符号化部にて符号化を行うときは前記画像変換部によって変換された画像データを選択して前記表示部に入力し、前記復号部にて前記符号化データを復号するときは前記復号部によって復号された画像データを選択して前記表示部に入力する選択部と、
を更に具備し、
前記表示部は、前記復号された画像データが入力されたとき、この画像データをディスプレイ上に表示させることを特徴とした請求項1〜5のいずれかに記載の画像処理装置。
A decoding unit for decoding the encoded data obtained by the encoding unit;
When encoding is performed by the encoding unit, the image data converted by the image converting unit is selected and input to the display unit, and when the encoded data is decoded by the decoding unit, the decoding unit A selection unit that selects the image data decoded by and inputs to the display unit;
Further comprising
The image processing apparatus according to claim 1, wherein when the decoded image data is input, the display unit displays the image data on a display.
前記画像内の注目するオブジェクトの動きを検出する動き検出部を更に備え、
前記領域設定部は、前記オブジェクトの動きにこのオブジェクトを含む領域を追従せしめることを特徴とした請求項1〜6のいずれかに記載の画像処理装置。
A motion detection unit for detecting the motion of the object of interest in the image;
The image processing apparatus according to claim 1, wherein the region setting unit causes a region including the object to follow the movement of the object.
前記複数の領域の位置、大きさ、及び画質のうち少なくとも一つを設定するための設定部を更に具備することを特徴とした請求項1〜7のいずれかに記載の画像処理装置。 The image processing apparatus according to claim 1, further comprising a setting unit configured to set at least one of a position, a size, and an image quality of the plurality of regions. 前記画像変換部は、各領域の画質が異なるように画像データを変換することを特徴とした請求項1〜8のいずれかに記載の画像処理装置。 The image processing apparatus according to claim 1, wherein the image conversion unit converts the image data so that the image quality of each region is different. 前記画像変換部は、各領域の色彩が異なるように画像データを変換することを特徴とした請求項1〜8のいずれかに記載の画像処理装置。 The image processing apparatus according to claim 1, wherein the image conversion unit converts the image data so that the colors of the respective regions are different. 前記画像変換部は、各領域の輝度が異なるように画像データを変換することを特徴とした請求項1〜8のいずれかに記載の画像処理装置。 The image processing apparatus according to claim 1, wherein the image conversion unit converts the image data so that the brightness of each region is different. 前記画像変換部は、前記画像に対し網掛けを行う工程を含み、各領域の網掛けの濃淡が異なるように画像データを変換することを特徴とした請求項1〜8のいずれかに記載の画像処理装置。 9. The image conversion unit according to claim 1, wherein the image conversion unit includes a step of performing shading on the image, and converts the image data so that shading in each region is different. Image processing device. 画像を取り込む撮像部と、
画像内を複数の領域に設定する領域設定部と、
前記撮像部から出力された画像データを、前記領域設定部にて設定された各領域毎に画質を異ならせて符号化する符号化部と、
前記撮像部から出力された画像データに対して所定の処理を施すことにより画像データの変換を行い、この変換の度合いは、前記符号化手段によって符号化する各領域の画質レベルに応じて、各領域毎に決定される画像変換部と、
前記画像変換部によって変換された画像データをディスプレイ上に表示させる表示部と、
を具備することを特徴とした撮像装置。
An imaging unit for capturing images;
An area setting unit for setting an image in a plurality of areas;
An encoding unit that encodes the image data output from the imaging unit with different image quality for each region set by the region setting unit;
Image data is converted by performing predetermined processing on the image data output from the imaging unit, and the degree of conversion depends on the image quality level of each region encoded by the encoding unit. An image conversion unit determined for each region;
A display unit for displaying the image data converted by the image conversion unit on a display;
An imaging apparatus comprising:
JP2004251700A 2004-08-31 2004-08-31 Image processing apparatus and imaging apparatus Pending JP2006074114A (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004251700A JP2006074114A (en) 2004-08-31 2004-08-31 Image processing apparatus and imaging apparatus
US11/212,609 US20060045381A1 (en) 2004-08-31 2005-08-29 Image processing apparatus, shooting apparatus and image display apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004251700A JP2006074114A (en) 2004-08-31 2004-08-31 Image processing apparatus and imaging apparatus

Publications (1)

Publication Number Publication Date
JP2006074114A true JP2006074114A (en) 2006-03-16

Family

ID=36154305

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004251700A Pending JP2006074114A (en) 2004-08-31 2004-08-31 Image processing apparatus and imaging apparatus

Country Status (1)

Country Link
JP (1) JP2006074114A (en)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006099404A (en) * 2004-09-29 2006-04-13 Sanyo Electric Co Ltd Image display device
JP2009188792A (en) * 2008-02-07 2009-08-20 Sony Corp Image transmitter, image receiver, image transmitting/receiving system, image transmitting program, and image receiving program
WO2010107411A1 (en) * 2009-03-17 2010-09-23 Utc Fire & Security Corporation Region-of-interest video quality enhancement for object recognition
JP2011504339A (en) * 2007-11-15 2011-02-03 ソニー エリクソン モバイル コミュニケーションズ, エービー System and method for generating photos with variable image quality
CN101453639B (en) * 2007-11-29 2012-05-30 展讯通信(上海)有限公司 Encoding, decoding method and system for supporting multi-path video stream of ROI region
US8595918B2 (en) 2009-03-10 2013-12-03 Fuji Machine Mfg. Co., Ltd. Image taking system and electronic-circuit-component mounting machine
KR20140058553A (en) * 2011-07-07 2014-05-14 에이티아이 테크놀로지스 유엘씨 Viewing-focus oriented image processing
JP2014174864A (en) * 2013-03-12 2014-09-22 Konica Minolta Inc Image processing apparatus, method for controlling the same, and program for controlling the same
WO2015177952A1 (en) * 2014-05-22 2015-11-26 ソニー株式会社 Image display apparatus, information processing apparatus, and image display system
KR101704775B1 (en) * 2016-02-03 2017-02-08 (주)비상정보통신 Apparatus and method for multi-resolution image processing
JP2017508968A (en) * 2014-03-05 2017-03-30 シック アイヴィピー エービー Image sensing device and measurement system for providing image data and information relating to 3D characteristics of an object

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006099404A (en) * 2004-09-29 2006-04-13 Sanyo Electric Co Ltd Image display device
JP4578197B2 (en) * 2004-09-29 2010-11-10 三洋電機株式会社 Image display device
JP2011504339A (en) * 2007-11-15 2011-02-03 ソニー エリクソン モバイル コミュニケーションズ, エービー System and method for generating photos with variable image quality
CN101453639B (en) * 2007-11-29 2012-05-30 展讯通信(上海)有限公司 Encoding, decoding method and system for supporting multi-path video stream of ROI region
US8315481B2 (en) 2008-02-07 2012-11-20 Sony Corporation Image transmitting apparatus, image receiving apparatus, image transmitting and receiving system, recording medium recording image transmitting program, and recording medium recording image receiving program
JP2009188792A (en) * 2008-02-07 2009-08-20 Sony Corp Image transmitter, image receiver, image transmitting/receiving system, image transmitting program, and image receiving program
US8595918B2 (en) 2009-03-10 2013-12-03 Fuji Machine Mfg. Co., Ltd. Image taking system and electronic-circuit-component mounting machine
WO2010107411A1 (en) * 2009-03-17 2010-09-23 Utc Fire & Security Corporation Region-of-interest video quality enhancement for object recognition
US8532414B2 (en) 2009-03-17 2013-09-10 Utc Fire & Security Corporation Region-of-interest video quality enhancement for object recognition
KR20140058553A (en) * 2011-07-07 2014-05-14 에이티아이 테크놀로지스 유엘씨 Viewing-focus oriented image processing
KR102002572B1 (en) * 2011-07-07 2019-07-22 에이티아이 테크놀로지스 유엘씨 Viewing-focus oriented image processing
JP2014174864A (en) * 2013-03-12 2014-09-22 Konica Minolta Inc Image processing apparatus, method for controlling the same, and program for controlling the same
JP2017508968A (en) * 2014-03-05 2017-03-30 シック アイヴィピー エービー Image sensing device and measurement system for providing image data and information relating to 3D characteristics of an object
WO2015177952A1 (en) * 2014-05-22 2015-11-26 ソニー株式会社 Image display apparatus, information processing apparatus, and image display system
KR101704775B1 (en) * 2016-02-03 2017-02-08 (주)비상정보통신 Apparatus and method for multi-resolution image processing

Similar Documents

Publication Publication Date Title
US20060045381A1 (en) Image processing apparatus, shooting apparatus and image display apparatus
US8115821B2 (en) Method and apparatus for setting a region of interest in image data
US7903162B2 (en) Electronic camera that display information representative of its selected mode
JP3956360B2 (en) Imaging apparatus and image processing method
JP2006014121A (en) Image encoding method, image encoding apparatus, and imaging apparatus
US20090290645A1 (en) System and Method for Using Coded Data From a Video Source to Compress a Media Signal
US7333662B2 (en) Image coding and decoding using intermediate images
JP4822396B2 (en) Image enhancement device
JP2000358183A (en) Image processing device and its method
JP2006099404A (en) Image display device
JP3789836B2 (en) Image coding apparatus and method
US7012641B2 (en) Image sensing apparatus, method, memory involving differential compression of display region based on zoom operation or speed
JP2011130112A (en) Display support device and imaging apparatus
JP2006074114A (en) Image processing apparatus and imaging apparatus
TWI390959B (en) Video signal processing device, video signal processing method and video signal processing program
US20230133895A1 (en) Image encoding apparatus and method for controlling the same and non-transitory computer-readable storage medium
JP2001359117A (en) Image processing unit and image processing method or the unit
US7174046B2 (en) Image quantization and coding based on adaptive threshold
JP2006074130A (en) Image decoding method, image decoding apparatus, and imaging apparatus
JP4375662B2 (en) Image processing apparatus, image processing method, program, information recording medium, and imaging apparatus
JP2004187036A (en) Contour correction system
JP4154178B2 (en) Video camera
JP2004194030A (en) Device and method for processing image, program, and recording medium
JP2002064790A (en) Image processor, its method program code and storage medium
JP4458408B2 (en) Image processing apparatus, image processing method, program, and information recording medium

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20051227

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061012

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090714

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20091110