JP2012094985A - Image processing device, method, program, and storage medium - Google Patents
Image processing device, method, program, and storage medium Download PDFInfo
- Publication number
- JP2012094985A JP2012094985A JP2010238655A JP2010238655A JP2012094985A JP 2012094985 A JP2012094985 A JP 2012094985A JP 2010238655 A JP2010238655 A JP 2010238655A JP 2010238655 A JP2010238655 A JP 2010238655A JP 2012094985 A JP2012094985 A JP 2012094985A
- Authority
- JP
- Japan
- Prior art keywords
- image
- moving direction
- subject
- area
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Abstract
Description
本発明は、画面内を複数に分割した領域を、圧縮率を変えて圧縮する画像処理装置、及び方法、プログラム並びに記録媒体に関する。 The present invention relates to an image processing apparatus, method, program, and recording medium that compress an area obtained by dividing a screen into a plurality of areas by changing a compression rate.
従来、画像圧縮方式としてJPEG2000(ISO/IEC FCD 15444-1)が知られている。この圧縮方式には、画像全体の圧縮率を下げることなく、画像の注目領域(Region of Interest:ROI)を低圧縮率化(高画質化)するための選択的領域画質向上機能(ROI機能)がある。しかし、注目領域、及び各領域の圧縮率は、手動で設定する必要があった。そこで、自動的に設定することができるようにした画像処理装置が提案されている(特許文献1)。 Conventionally, JPEG2000 (ISO / IEC FCD 15444-1) is known as an image compression method. In this compression method, a selective area image quality improvement function (ROI function) for reducing the compression area (image quality) of a region of interest (ROI) of an image without lowering the compression ratio of the entire image. There is. However, the attention area and the compression ratio of each area have to be set manually. Thus, an image processing apparatus that can be automatically set has been proposed (Patent Document 1).
特許文献1に記載の画像処理装置は、画像から人物、車輌等の移動物体等、特徴の種類が異なる複数の特徴領域を検出し、検出した各特徴領域が他の領域よりも高画質となるように、特徴領域の特徴の種類に応じて異なる圧縮強度で圧縮している。
The image processing apparatus described in
しかしながら、特許文献1に記載の発明では、特徴領域の特徴に応じて異なる圧縮強度で圧縮するため、同じ種類の特徴領域を一律の圧縮強度で圧縮することになってしまい、不必要な領域まで高画質化(低圧縮率化)するおそれがある。このようになると、データ量が多くなる不都合が生じる。
However, in the invention described in
本発明は、上記問題に鑑みてなされたものであり、データ量が少なくなるように必要な特徴領域のみ高画質化する画像処理装置、及び方法、プログラム並びに記憶媒体を提供することを目的とする。 The present invention has been made in view of the above problems, and an object of the present invention is to provide an image processing apparatus, method, program, and storage medium capable of improving the image quality of only necessary feature areas so that the amount of data is reduced. .
上記目標を達成するために、本発明では、画像から被写体の移動方向を検出する移動方向検出手段と;被写体の移動方向に応じて画像内を複数の領域に分割する分割手段と;複数の領域の画像それぞれを、前記移動方向にある領域程高画質の画像になるように、圧縮率を変えて圧縮する圧縮手段と;を備えたものである。 In order to achieve the above goal, in the present invention, a moving direction detecting unit that detects a moving direction of a subject from an image; a dividing unit that divides the image into a plurality of regions according to the moving direction of the subject; Compression means for compressing each of the images at different compression ratios so that the region in the moving direction becomes a higher quality image.
移動方向検出手段としては、画像とその画像とは異なる時刻で撮影した画像との相関に基づいて、少なくとも被写体の移動方向の情報を取得するのが望ましい。具体的には、主要被写体の画像を含む領域(被写体領域)を検出する被写体領域検出手段を設け、動画像データを構成する現フレーム画像と、1つ前の前フレーム画像の連続フレームにおける被写体領域の画像信号レベルの相関を検出し、検出した相関に基づいて主要被写体の動きベクトルを求める。 As the moving direction detection means, it is desirable to acquire at least information on the moving direction of the subject based on the correlation between the image and the image taken at a different time. Specifically, subject region detection means for detecting a region (subject region) including an image of the main subject is provided, and the subject region in a continuous frame of the current frame image constituting the moving image data and the previous previous frame image. The image signal level correlation is detected, and the motion vector of the main subject is obtained based on the detected correlation.
分割手段としては、被写体領域を挟んでその被写体の移動方向にある領域(移動方向側領域)と、前記移動方向とは逆側の領域とに分割するのが望ましい。この場合、圧縮手段としては、被写体領域を含み被写体の移動方向側の領域の画像を、逆側の領域と比べて高画質の画像になるように、低圧縮率で圧縮するのが望ましい。 As the dividing means, it is desirable to divide the subject region into a region in the moving direction of the subject (moving direction side region) and a region opposite to the moving direction. In this case, it is desirable that the compression means compresses the image of the region including the subject region on the moving direction side of the subject at a low compression rate so that the image is higher in quality than the region on the opposite side.
また、分割手段としては、被写体を含む被写体領域とその移動方向にある移動方向側領域とに分割し、圧縮手段は、被写体領域とその移動方向側領域との画像を圧縮率を変えて圧縮してもよい。この場合には、高・中・低との三段階の圧縮率を設定し、最高画質にするために被写体領域を低圧縮率、移動方向側領域を中圧縮率に、そして反対方向側領域を高圧縮率にそれぞれ設定すればよい。 The dividing means divides the subject area including the subject and the moving direction side area in the moving direction, and the compressing means compresses the images of the subject area and the moving direction side area by changing the compression rate. May be. In this case, set three levels of compression ratios, high, medium, and low, to set the subject area to a low compression ratio, the moving direction side area to a medium compression ratio, and the opposite direction side area to the highest image quality. What is necessary is just to set each to a high compression rate.
ところで、分割手段は、被写体領域の位置やサイズ、及び移動方向に応じて分割する個数を決める。3個以上分割する場合には、分割した複数の領域を、前記移動方向に基づいてグループ化してグループ領域を生成するグループ化手段を備えてもよい。この場合、圧縮手段としては、グループ領域のそれぞれを、移動方向側領域の画像が高画質になるように、圧縮率を変えて圧縮するのが望ましい。 By the way, the dividing means determines the number to be divided according to the position and size of the subject area and the moving direction. In the case of dividing three or more, a grouping unit that generates a group region by grouping the plurality of divided regions based on the moving direction may be provided. In this case, it is desirable that the compression unit compresses each of the group areas while changing the compression rate so that the image in the movement direction side area has high image quality.
また、前記分割した複数の領域、又は複数のグループ領域毎に、前記移動方向に基づいて異なる圧縮率を割り当てる圧縮率設定手段を備えるのが望ましい。 In addition, it is preferable that a compression rate setting unit that assigns a different compression rate based on the moving direction to each of the plurality of divided regions or the plurality of group regions is desirable.
さらに、圧縮手段としては、高画質になるように低圧縮率で圧縮する低圧縮率領域の画像と、それよりも低画質になるように高圧縮率で圧縮する高圧縮率領域の画像との符号化を並行処理する複数の符号化手段と、各符号化手段の符号化処理後の転送タイミングを調節するタイミング調整手段と、タイミング調整手段から転送される複数の符号化データを合成する合成手段と、で構成するのが望ましい。 Furthermore, as a compression means, an image in a low compression rate area that is compressed at a low compression rate so as to achieve high image quality, and an image in a high compression rate area that is compressed at a high compression rate so as to obtain a lower image quality than that. A plurality of encoding means for performing parallel processing of encoding, a timing adjusting means for adjusting the transfer timing after the encoding process of each encoding means, and a combining means for combining a plurality of encoded data transferred from the timing adjusting means It is desirable to configure with
本発明では、画像から被写体の移動方向を検出し、被写体の移動方向に基づいて画面を複数に分割し、分割した領域の画像それぞれを、被写体の移動方向にある領域程高画質の画像になるように、圧縮率を変えて圧縮するため、特徴領域の中でも被写体に対して必要とされる領域の画像のみを高画質化することができ、よって、データ量を少なくすることができる。 In the present invention, the moving direction of the subject is detected from the image, the screen is divided into a plurality of screens based on the moving direction of the subject, and the images of the divided regions become higher in quality as the region is in the moving direction of the subject. As described above, since the compression is performed by changing the compression rate, only the image of the area required for the subject in the feature area can be improved in image quality, and thus the data amount can be reduced.
本発明を用いた一実施形態である動画記録及び再生機能付きのデジタルカメラ10は、図1に示すように、撮像部11、制御部12、信号処理部13、フレームメモリ14、画像処理部15、ROM16、RAM17、I/F(インターフェース)18、VRAM19、表示用画像データ生成部20、及び表示制御部21を備えており、これらは各々バス22に接続されている。撮像部11は、被写体を撮像してA/D変換を行って得られたデジタルの画像データを出力する。画像データは、フレーム画像、又はフィールド画像になっている。制御部12には、各部を統括的に制御する。操作部23は、制御部12に接続されており、動画録画用の操作ボタン群と、動画再生用の操作ボタン群等で構成されている。
As shown in FIG. 1, a
信号処理部13は、デジタルの画像データを取り込み、画素欠陥補正やホワイトバランス補正、ガンマ補正などの補正を行う。フレームメモリ14は、SDRAMなどの容量半導体メモリによって構成され、信号処理部13によって補正された、1フレームもしくは数フレーム分の画像データが蓄積される。
The
ROM16は、各種プログラムやプログラムの実行に必要な設定値を予め記憶している。RAM17は、制御部12のワークメモリとして、また、各部の一時的なメモリとして使用される。I/F18には、符号化画像データを記録する記録部24が接続されている。記録部24としては、内蔵用の半導体メモリやハードディスク等を使用することができる。また、外部接続用としては、着脱自在な記録媒体と、その記録媒体を挿入するスロット、及び記録媒体へのアクセスを制御する回路等で構成してもよい。
The
表示用画像データ生成部20は、フレームメモリ14から読み出した1フレーム分の画像データを、表示部25の解像度と画素数等に基づいて拡大又は縮小処理して表示用画像データを生成して出力する。
The display image data generation unit 20 generates and outputs display image data by enlarging or reducing the image data for one frame read from the
VRAM19は、表示用画像データを蓄積する表示用ビデオメモリである。表示制御部21は、VRAM19から表示用画像データを読み出して表示部25に表示するように制御する。表示部25には、録画中の画像データも含めてスルー画像の画像データ、もしくは記録部24から再生して動画の画像データが表示される。
The VRAM 19 is a display video memory that stores display image data. The
画像処理部15は、図2に示すように、被写体領域検出部27、移動方向検出部28、分割部29、グループ化部30、圧縮率設定部31、圧縮部32、及び伸長部33を備えている。
As shown in FIG. 2, the
被写体領域検出部27は、一の画像データ(現画像データ)の画像から被写体を含む画像が写っている領域を被写体領域として検出し、被写体領域の画像抽出とその位置情報とを出力する。具体的には、被写体領域検出部27は、人物の顔、人体、ペット、及び車輌や飛行機等の被写体を含む領域を、被写体領域として検出する。 The subject region detection unit 27 detects a region where an image including a subject is captured from an image of one image data (current image data) as a subject region, and outputs image extraction of the subject region and position information thereof. Specifically, the subject region detection unit 27 detects a region including a human face, a human body, a pet, and a subject such as a vehicle or an airplane as a subject region.
移動方向検出部28は、現画像データとその現画像データとは異なる時刻で撮像した例えば、その直前の前画像データとに基づき、被写体領域の画像に最も相関の大きいマッチング領域を前画像データから探索することで、被写体の移動方向を検出する。 The moving direction detection unit 28, based on the current image data and the previous image data taken immediately before the current image data, for example, selects a matching region having the greatest correlation with the image of the subject region from the previous image data. By searching, the moving direction of the subject is detected.
分割部29は、現画像データの画面のうちの被写体領域以外の領域を被写体の移動方向に基づいて分割する。具体的には、被写体領域を基準として被写体の移動方向側の領域とその逆方向側の領域とに分割する。 The dividing unit 29 divides an area other than the subject area in the screen of the current image data based on the moving direction of the subject. Specifically, the subject region is divided into a region on the moving direction side of the subject and a region on the opposite direction side.
グループ化部30は、被写体領域を含めて分割された複数の領域を被写体の移動方向に基づいてグループ化する。具体的には、対象の領域が被写体領域に対して進行方向側に属すか否かでグルーピングする。例えば、進行方向側に属する領域は進行方向側グループ領域に、また、逆方向側に属する領域は非進行方向側グループ領域にそれぞれグルーピングする。
The
圧縮率設定部31は、グループ種別(進行方向側のグループか否か)の情報に基づいて圧縮率をグループ領域の画像毎に設定する。例えば進行方向側グループ領域の画像が低圧縮(高画質)に、また非進行方向側グループ領域の画像が進行方向側領域の圧縮率よりも高い高圧縮(低画質)になるようにそれぞれ圧縮率(画質レベル)を割り当てる。
The compression
圧縮部32は、割り当てた圧縮率で各グループ領域の画像を並行して圧縮処理し、前記領域の画像を圧縮した圧縮データを合成して合成圧縮画像データとして出力する。
The
合成圧縮画像データは、復号時に参照するパラメータを記載した復号用テーブルがヘッダとして付与されて合成圧縮画像データとして記録部24に記録される。
The combined compressed image data is recorded in the
このように、本実施形態では、グループ化した領域の画像をひとつの単位としてエンコード・デコードを行う。伸長部33は、合成圧縮データを複号して、複号した画像データを出力する。
As described above, in the present embodiment, encoding / decoding is performed with the grouped region images as one unit. The decompressing
圧縮部32は、図3に示すように、符号化部39、タイミング調整部42、合成部43、及び復号テーブル付与部44で構成されている。符号化部39は、複数の符号化器40,41で構成されている。符号化器40,41は、グループ化部30がグルーピングする数だけ予め設けられており、グループ領域の画像毎に並行して圧縮処理をする。なお、一つの符号化器のみを設けて各グループ領域の画像を時系列的に圧縮するように構成してもよい。
As shown in FIG. 3, the
タイミング調整部42は、バッファメモリで構成されており、各符号化から出力される圧縮データを取り込んでバッファしておき、合成部43に一斉に出力するタイミングを調整する。
The
合成部43は、タイミング調整部42から複数の圧縮データを取り込んで、各圧縮データを合成して合成圧縮データを出力する。
The synthesizing
復号テーブル付与部44は、復号用テーブルを作成し、作成した復号用テーブルを合成圧縮データにヘッダとして付与して合成圧縮画像データとして出力する。復号用テーブルは、グループ化部30、圧縮率設定部31、及び符号化部39から得られる情報に基づいて、移動方向側及び非移動方向側領域の位置情報や圧縮率、解像度、ビット深さ、色仕様、及びビットレート等の規定される様々なパラメータをテーブルとして付与して構成されている。これらパラメータは、伸長部33で復号するときに利用される。
The decoding
なお、符号化器40,41は、周知のように、DCレベルシフト、コンポーネント間変換、離散ウェーブレット変換、量子化、エブコット(エントロピー符号化)、及びストリーム化を順に行う。ストリーム化は、エントロピー符号化したデータを量子化幅等の符号化パラメータとともにストリーム化して圧縮データを出力する。また、符号化器40,41は、ストリーム化したときの符号量を積算し、積算した符号量を復号テーブル付与部44へ与える。
Note that the encoders 40 and 41 sequentially perform DC level shift, inter-component transformation, discrete wavelet transformation, quantization, ebcot (entropy coding), and streaming, as is well known. In streaming, entropy-encoded data is streamed together with encoding parameters such as a quantization width, and compressed data is output. In addition, the encoders 40 and 41 integrate the code amount when streamed, and give the integrated code amount to the decoding
次に上記構成の作用を、図4を参照しながら説明する。操作部23を構成する録画スタートボタンを操作すると(S―1)、制御部12は、撮像部11を駆動して被写体像を撮像する。撮像部11から出力されるデジタルの画像データは、フレームメモリ14に記憶されていく(S−2)。
Next, the operation of the above configuration will be described with reference to FIG. When a recording start button constituting the
画像処理部15は、フレームメモリ14に記憶される1フレーム分の画像データを取り込む。被写体領域検出部27は、取り込んだ現画像データの画像に基づいて被写体領域を検出する(S−3)。
The
被写体領域の画像は、例えば図5に示す現画像データ49に対して矩形枠50で検出され、その矩形枠50内の画像を抽出して参照画像としてRAM17に記憶する。また、矩形枠50の位置情報もRAM17に記憶される。なお、位置情報は、矩形枠50の左上隅の画素の座標値とその領域の縦横の画素数で構成される。ここで、図5に示す例は、被写体領域が1個のみ検出されたものとして説明する。
For example, the image of the subject area is detected in the
移動方向検出部28は、直前の前画像データ51をRAM17に記憶しており、図6に示すように、RAM17を参照して被写体領域と同一サイズの比較領域52を前画像データ51に設定し、前画像データ51内で比較領域52を異なる座標位置に順次設定して、被写体領域の画素値に相関が最も大きいマッチング領域を特定し、特定したマッチング領域と被写体領域とのそれぞれの全体画像に対する位置関係に基づいて被写体の移動方向を検出し(S−4)、その情報を分割部29に送る。なお、同図に示す例では、被写体の移動方向を「右方向」として検出している。
The moving direction detection unit 28 stores the previous previous image data 51 in the
分割部29は、被写体の移動方向と被写体領域の位置情報とを参照して、図7に示すように、被写体領域が移動方向側の領域に含まれるように、X座標を基準として右方向側の領域55とその逆方向側の領域56とに境界線57により分割し(S−5)、各分割領域55,56の位置情報をグループ化部に送る。
The dividing unit 29 refers to the moving direction of the subject and the position information of the subject region, and as shown in FIG. 7, the dividing unit 29 moves rightward with respect to the X coordinate so that the subject region is included in the moving direction side region. The
グループ化部30は、分割領域55,56の位置情報を参照して、被写体領域(矩形枠50)を含む移動方向側の領域55を進行方向グループ領域に、また、その逆方向側の領域56を非進行方向グループ領域にグルーピングする(S−6)。このグループ領域の種別情報は圧縮率設定部31に送られる。
The
圧縮率設定部31は、グループ種別に基づいて、進行方向グループ領域の画像が入力される符号化器40に低圧縮率を、非進行方向グループ領域の画像が入力される符号化器41に高圧縮率をそれぞれ設定する(S−7)。
Based on the group type, the compression
符号化部39は、RAM17から現画像データを読み出して、符号化器40で進行方向グループ領域の画像を低圧縮率で圧縮し(S−8)、符号化器41で非進行方向グループ領域の画像を高圧縮率で圧縮する(S−9)。
The
符号化器40,41の圧縮処理には、時間差が生じる。この時間差をタイミング調整部42で吸収する。タイミング調整部42は、複数の符号化器40,41から圧縮データの出力が揃うまで蓄積しておき、揃うことに応答して2つの圧縮データを合成部43に送る(S−10)。合成部43は、2つの圧縮データを合成して合成圧縮データを生成する(S−11)。
A time difference occurs in the compression processing of the encoders 40 and 41. This time difference is absorbed by the
復号テーブル付与部44は、グループ化部30、及び圧縮率設定部31から得られるグループ領域の位置情報、それら位置情報に対する圧縮率情報、及びビットレート情報等に基づいて復号テーブルを生成し、生成した復号テーブルを合成圧縮データにヘッダとして付与して合成圧縮画像データ(動画像の符号化ストリーム)として出力する(S−12)。出力される合成圧縮画像データは、記録部24に記録される。以下、録画ストップの操作(S−13)が行われまで、次のフレーム画像に対して前述したと同様にグループ領域毎に圧縮して合成圧縮画像データを作っていく。
The decoding
合成圧縮画像データは、再生操作に応答して記録部24から読み出され、伸長部33によって復号されて表示部25の画面に再生される。
The combined compressed image data is read from the
上記実施形態では、画像処理部15が圧縮処理する画像データとして、RGB色毎に1の固体撮像素子を用意した3板式撮像素子により取得したRAWデータを画像データとしてもよいし、カラーフィルタアレイ(CFA)を有する単板式撮像素子により取得したRAWデータを、デモザイキング処理をしてフルカラー画像(RGB画像)に変換した画像データとしてもよい。
In the above-described embodiment, the image data to be compressed by the
また、上記各実施形態の被写体領域検出部27としては、被写体領域を複数検出する場合がある。この場合には、その中から移動体である領域、もしくは被写体領域の位置や大きさに基づいて主の被写体領域(主被写体領域)を選択するのが好適である。この場合、複数の被写体領域を比較して位置や大きさに基づいて主被写体領域を選択する選択手段を設ければよい。 In addition, the subject region detection unit 27 of each of the above embodiments may detect a plurality of subject regions. In this case, it is preferable to select a main subject region (main subject region) from the region that is a moving body or the position and size of the subject region. In this case, selection means for comparing a plurality of subject areas and selecting the main subject area based on the position and size may be provided.
選択手段としては、例えば、領域が予め決めた基準の大きさよりも小さい場合、また、画面全体に対して予め決めた中央範囲よりも外で画面端に寄っている場合は、主被写体領域として選択しない。 As the selection means, for example, when the area is smaller than a predetermined reference size, or when it is close to the screen edge outside the predetermined central range with respect to the entire screen, it is selected as the main subject area. do not do.
例えば、図8に示す現画像データ60においては、被写体領域検出部27が2つの被写体領域61,62を検出している。この場合、選択手段が2つの被写体領域61,62の位置や大きさに基づいて被写体領域61を主被写体領域として選択する。移動方向検出手段28は、図9に示すように、前画像データ60aとのフレーム相関に基づいて主被写体領域61にある被写体画像の移動方向63を検出する。
For example, in the
分割手段29は、図10に示すように、検出した移動方向63に対して直交又は交差する境界線64,65を各被写体領域61,62に基づいて設定して現画像データ60を複数の画面66〜68に分割する。グループ化部30は、図11に示すように、主被写体領域61を含む領域66とその移動方向側の領域67とを進行方向側グループ領域69に、逆方向側の領域68を非進行方向側グループ領域70にそれぞれ設定する。
As shown in FIG. 10, the dividing unit 29
この場合、グループ領域69の画像は、主被写体を含みその移動方向側の領域であるので高画質で保存される。逆に、グループ領域70の画像は、主被写体の移動方向側ではないので、ここにどのような画像が写っていても低画質で保存される。
In this case, since the image in the
なお、移動方向検出部28が被写体の移動方向を上方向として検出する場合、図12に示すように、分割手段29は、検出した移動方向71に対して直交又は交差する境界線72、すなわち水平方方向の境界線72を被写体領域73に基づいて設定して複数の画面74,75に分割する。この場合、グループ化部30は、被写体領域73を含む移動方向側の領域74を進行方向側グループ領域に設定する。
When the moving direction detection unit 28 detects the moving direction of the subject as the upward direction, as shown in FIG. 12, the dividing unit 29 has a
図13に示す例では、2つの被写体領域80,81が中央範囲内で、かつ前記基準の大きさを超えるため、2つの被写体領域80,81が主被写体領域としてそれぞれ選択してされている。また、同図に示す例では、2つの主被写体の移動方向82,83が、相反する方向(左・右方向)で検出されている。この場合、分割部29は、2つの被写体領域80,81の間に境界線を設定して現画像データの画面84を左右の領域に2分割する。しかしながら、この場合、どちらの領域も主被写体領域80,81の移動方向側なので、左右領域とも低圧縮率が設定されてしまう。このため、画像全体を低圧縮率で圧縮したのと比べてファイルサイズが変わらないおそれがある。
In the example shown in FIG. 13, since the two
そこで、分割部29は、画像全体を低圧縮率で圧縮したものと比べてファイルサイズが小さくなるように、主被写体領域80,81のサイズに基づいて少なくとも3個以上に分割するように構成するのが望ましい。例えば、図14に示すように、主被写体領域80,81の縦サイズに合わせて移動方向側の領域85,86を設定することで、主被写体領域80,81の上・下を別の領域87〜90として設定することができる。また、主被写体領域80,81の横サイズに基づいて分割することで、主被写体領域80,81の間にある領域91も別の領域として設定することができる。したがって、同図に示す例では、分割部29が9個の領域80,81,85〜91に分割する。
Accordingly, the dividing unit 29 is configured to divide the entire image into at least three or more based on the sizes of the main
この場合、グループ化部30は、主被写体領域と移動方向側領域とを進行方向側グループ領域に、また、それ以外の領域を非進行方向側グループ領域にそれぞれグルーピングすればよい。
In this case, the
上記各実施形態では、圧縮率設定部31が圧縮率を低圧縮率と高圧縮率との2段階に設定する例として説明しているが、本発明ではこれに限らず、3段階以上に設定することもできる。例えば、高中低の3段階の圧縮率に設定する場合には、グループ化部30は、図14で説明した2つの主被写体領域80,81を低圧縮率グループ領域に、その移動方向側にある2つの領域85,86を中圧縮率グループ領域に、そして、残りの領域87〜91を高圧縮率グループ領域にそれぞれ設定する。このように、被写体の移動方向側の領域が高画質になるように、3段階以上の圧縮率をそれぞれ設定してもよい。
In each of the above embodiments, the compression
この場合、勿論、符号化部39は、圧縮率の段階数に応じて予め3つの第1〜第3符号化器で構成する。そして、圧縮率設定部31は、低圧縮率グループ領域の画像を圧縮する第1符号化器に低圧縮率を、中圧縮率グループ領域の画像を圧縮する第2符号化器に中圧縮率を、そして、高圧縮率グループ領域の画像を圧縮する第3符号化器には高圧縮率をそれぞれ設定する。
In this case, of course, the
また、上記得各実施形態では、被写体領域検出部27で被写体領域を検出しているが、移動方向検出部で、被写体の領域とその移動方向との両方を一緒に検出してもよい。この場合、動画像データの前後フレームの相関に基づいて、移動物体を含む領域を被写体領域として検出する。被写体領域を複数検出する場合には、例えば、現画像データとその前又は後の画像データとの間で画素値の変化量が予め定められた変化量より大きい領域(動領域)を主被写体領域として検出すればよい。 In each of the embodiments described above, the subject region detection unit 27 detects the subject region. However, the movement direction detection unit may detect both the subject region and its movement direction together. In this case, an area including a moving object is detected as a subject area based on the correlation between the previous and next frames of the moving image data. In the case of detecting a plurality of subject areas, for example, an area (moving area) in which the change amount of the pixel value is larger than a predetermined change amount between the current image data and the previous or subsequent image data is set as the main subject area. May be detected.
また、例えば、車窓から風景を撮影した動画像データや、風景をパンニングして撮影した動画像データの場合には、前景に写る家並みや木々等を主被写体領域として検出してもよい。この場合、主被写体領域が画面の水平方向に連続的に続いて被写体領域に切れ目がないため、分割する境界を予め決めた長さで決めるように構成してもよい。すなわち、主被写体領域を画面の幅いっぱいに検出する場合には、移動方向側領域の水平又は垂直方向の長さを、例えば全体画面の水平又は垂直方向の長さに対して2/3の比率になる長さ等に予め決めておけばよい。 Further, for example, in the case of moving image data obtained by photographing a landscape from a car window or moving image data obtained by panning a landscape, houses and trees in the foreground may be detected as the main subject area. In this case, since the main subject area continues in the horizontal direction of the screen and the subject area is not cut, the boundary to be divided may be determined with a predetermined length. That is, when the main subject area is detected to the full width of the screen, the horizontal or vertical length of the moving direction side area is, for example, a ratio of 2/3 to the horizontal or vertical length of the entire screen. What is necessary is just to predetermine the length etc. to become.
また、図15に示すように、例えば2つの被写体領域93,94を画面の異なる位置にそれぞれ検出し、一方の領域93の被写体の移動方向を右方向、また他の領域94の被写体の移動方向を垂直方向としてそれぞれ検出した場合、分割部29が被写体の移動方向に基づいて分割する移動方向側の低圧縮領域94aと非移動方向側の高圧縮領域93aとが重複する場合が考えられる。この場合には、グループ化部30が低圧縮率領域を優先にしてグルーピングすればよい。
Further, as shown in FIG. 15, for example, two
上記各実施形態の被写体領域検出部27としては、人物の体に関するパターンに対する一致度が予め定められた一致度より大きいオブジェクトを含む人体領域をパターンマッチング等により検出して、検出した領域を主被写体領域として検出してもよい。また、この検出部の代わりに、顔画像検出部を設けても良い。この場合、予め定められた人物の顔に関するパターンに対する一致度が、予め定められた一致度より大きい顔画像を含む領域をパターンマッチング等により検出して、検出した顔画像領域を主被写体領域として検出すればよい。なお、被写体領域検出部は、顔領域の近傍に存在する領域から人体領域を検出してもよい。 As the subject region detection unit 27 in each of the above embodiments, a human body region including an object having a degree of matching with a pattern related to a person's body greater than a predetermined matching degree is detected by pattern matching or the like, and the detected region is used as a main subject. It may be detected as a region. Further, a face image detection unit may be provided instead of this detection unit. In this case, an area including a face image having a degree of coincidence with a pattern related to a predetermined person's face larger than the predetermined degree of coincidence is detected by pattern matching or the like, and the detected face image area is detected as a main subject area. do it. Note that the subject region detection unit may detect a human body region from a region existing in the vicinity of the face region.
さらに、他にも、被写体領域検出部27としては、エッジ抽出等により複数の画像データ(フレーム画像)のそれぞれに含まれる画像(オブジェクト)を抽出する。そして、被写体領域検出部27は、他の画像データの異なる位置に含まれるオブジェクトであって、予め定められた一致度より大きい一致度で一致するオブジェクトを特定して、特定したオブジェクトを含む領域を主被写体領域として特定してもよい。 In addition, the subject region detection unit 27 extracts images (objects) included in each of a plurality of image data (frame images) by edge extraction or the like. Then, the subject area detection unit 27 identifies objects that are included in different positions of other image data and match with a degree of coincidence greater than a predetermined degree of coincidence, and an area including the identified object is identified. The main subject area may be specified.
また、被写体領域検出部27は、上記の人物の顔、人体の他に、人物の頭部の一部の部位または人物の手等の人体の一部の部位、あるいは人体以外の生体の少なくとも一部の部位が撮像されている領域を、主被写体領域として検出してもよい。ここで、生体とは、生体内部の腫瘍組織または血管等のように、生体の内部に存在する特定の組織を含む。さらに、被写体領域検出部は、生体の他にも、貨幣、キャッシュカード等のカード、車輌、あるいは車両のナンバープレートが撮像された領域をメインの被写体として検出してもよい。さらにまた、被写体領域検出部は、AF情報に基づいて主被写体領域を検出してもよい。 In addition to the above-mentioned person's face and human body, the subject area detection unit 27 also includes at least one part of the human head such as a part of the person's head or a part of the human body such as a person's hand or a living body other than the human body. An area where the part of the image is captured may be detected as the main subject area. Here, the living body includes a specific tissue existing inside the living body, such as a tumor tissue or a blood vessel inside the living body. Furthermore, the subject area detection unit may detect, as a main subject, an area in which a card such as money, a cash card, a vehicle, or a license plate of a vehicle is imaged in addition to a living body. Furthermore, the subject area detection unit may detect the main subject area based on the AF information.
また、ユーザが現画像上の特定の領域を指定することによって主被写体領域を選択するように構成してもよい。さらに、主被写体の画像は、画面の中心に写ることが多いため、現画像データの中心領域等予め定まった領域を自動的に選択するように構成してもよい。 Further, the main subject area may be selected by the user designating a specific area on the current image. Furthermore, since the image of the main subject often appears in the center of the screen, a predetermined area such as the central area of the current image data may be automatically selected.
上記各実施形態では、デジタルカメラで動画像データを圧縮する構成として説明しているが、本発明ではこれに限らず、静止画の画像データを圧縮することができる。この場合には、連写撮影した複数の画像データ等、撮影場所が同じで撮影時期が異なる類似の画像データを指定して読み込ませることで、被写体の移動方向を検出することができる。 In each of the above-described embodiments, the configuration is described in which moving image data is compressed by a digital camera. However, the present invention is not limited to this, and still image data can be compressed. In this case, the moving direction of the subject can be detected by designating and reading similar image data having the same shooting location and different shooting times, such as a plurality of image data shot continuously.
上記各実施形態では、デジタルカメラで画像データを圧縮する構成として説明しているが、本発明ではこれに限らず、パーソナルコンピュータ等で実行するアプリケーションプログラムで構成される装置にも適用可能である。この場合、デジタルカメラやビデオカメラで撮像して得られた画像ファイルをパーソナルコンピュータ等で読み込んで、前述しように圧縮すればよい。 In each of the above-described embodiments, the image data is compressed by the digital camera. However, the present invention is not limited to this, and the present invention can be applied to an apparatus configured by an application program executed by a personal computer or the like. In this case, an image file obtained by imaging with a digital camera or a video camera may be read by a personal computer or the like and compressed as described above.
上記各実施形態では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。 In the above embodiments, various embodiments and modifications have been described. However, the present invention is not limited to these contents. Other embodiments conceivable within the scope of the technical idea of the present invention are also included in the scope of the present invention.
10 デジタルカメラ
15 画像処理部
27 被写体領域検出部
28 移動方向検出部
29 分割部
32 圧縮部
DESCRIPTION OF
Claims (12)
前記被写体の移動方向に応じて前記画像内を複数の領域に分割する分割手段と、
前記複数の領域の画像のそれぞれを、前記被写体の移動方向にある領域が高画質の画像になるように圧縮率を変えて圧縮する圧縮手段と、
を備えたことを特徴とする画像処理装置。 A moving direction detecting means for detecting the moving direction of the subject from the image;
Dividing means for dividing the image into a plurality of regions in accordance with the moving direction of the subject;
Compression means for compressing each of the images of the plurality of regions by changing the compression ratio so that the region in the moving direction of the subject becomes a high-quality image;
An image processing apparatus comprising:
前記移動方向検出手段は、前記画像とその画像とは異なる時刻に撮影した画像との相関に基づいて前記被写体の移動方向を検出することを特徴する画像処理装置。 The image processing apparatus according to claim 1.
The image processing apparatus, wherein the moving direction detecting means detects a moving direction of the subject based on a correlation between the image and an image taken at a different time from the image.
前記分割手段は、前記被写体の移動方向にある移動方向側領域と前記移動方向とは逆側の領域とに分割し、
前記圧縮手段は、前記移動方向側領域が前記逆側の領域よりも高画質の画像になるように圧縮率を変えて圧縮することを特徴とする画像処理装置。 The image processing apparatus according to claim 1 or 2,
The dividing unit divides the moving direction side area in the moving direction of the subject and the area opposite to the moving direction;
The image processing apparatus according to claim 1, wherein the compression unit performs compression by changing a compression rate so that the moving direction side region has a higher quality image than the opposite side region.
前記画像から被写体の画像を含む被写体領域を検出する被写体領域検出手段を備えていることを特徴とする画像処理装置。 The image processing apparatus according to any one of claims 1 to 4,
An image processing apparatus comprising: a subject area detection unit that detects a subject area including an image of a subject from the image.
前記分割手段は、前記被写体領域とその移動方向にある移動方向側領域とに分割し、
前記圧縮手段は、前記被写体領域が前記移動方向側領域よりも高画質の画像になるようにそれぞれの領域の画像を、圧縮率を変えて圧縮することを特徴とする画像処理装置。 The image processing apparatus according to claim 4.
The dividing means divides the subject area and a moving direction side area in the moving direction thereof,
The image processing apparatus, wherein the compression unit compresses the images in the respective regions at different compression ratios so that the subject region becomes a higher quality image than the moving direction side region.
前記分割した複数の領域を、前記被写体の移動方向に基づいてグループ化してグループ領域を生成するグループ化手段を備え、
前記圧縮手段は、前記グループ領域の画像のそれぞれを、前記移動方向側の領域が高画質の画像になるように圧縮率を変えて圧縮することを特徴とする画像処理装置。 The image processing apparatus according to claim 4 or 5,
A grouping unit configured to group the plurality of divided areas based on a moving direction of the subject to generate a group area;
The image processing apparatus, wherein the compression unit compresses each of the images in the group area by changing a compression rate so that the moving direction area becomes a high-quality image.
前記被写体領域を含めて前記分割した複数の領域、又は複数のグループ領域に、前記被写体の移動方向に基づいて異なる圧縮率を割り当てる圧縮率設定手段を備えることを特徴とする画像処理装置 The image processing apparatus according to any one of claims 1 to 6,
An image processing apparatus comprising compression ratio setting means for assigning different compression ratios to the plurality of divided areas or the plurality of group areas including the subject area based on the moving direction of the subject.
前記圧縮手段は、
高画質になるように圧縮する低圧縮率設定領域の画像と、それよりも低画質になるように圧縮する高圧縮率設定領域の画像との符号化を並行処理する複数の符号化手段と、
各符号化手段の符号化処理後の転送タイミングを調節するタイミング調整手段と、
タイミング調整手段から転送される複数の符号化データを合成する合成手段と、
で構成されていることを特徴とする画像処理装置。 The image processing apparatus according to any one of claims 1 to 7,
The compression means includes
A plurality of encoding means for performing parallel processing on encoding of an image of a low compression rate setting area to be compressed so as to achieve high image quality and an image of a high compression rate setting area to be compressed to be lower in image quality;
Timing adjusting means for adjusting the transfer timing after the encoding process of each encoding means;
Combining means for combining a plurality of encoded data transferred from the timing adjusting means;
An image processing apparatus comprising:
前記移動方向に基づいて前記画像を複数の領域に分割する分割ステップと、
前記複数の領域の画像のそれぞれを、前記移動方向にある領域が高画質の画像になるように、圧縮率を変えて圧縮する圧縮ステップと、
を含むことを特徴とする画像処理方法。 Detecting the moving direction of the subject from the image;
A dividing step of dividing the image into a plurality of regions based on the moving direction;
A compression step of compressing each of the images of the plurality of regions by changing a compression rate so that the region in the moving direction becomes a high-quality image;
An image processing method comprising:
前記分割ステップは、前記被写体の移動方向にある移動方向側領域と前記移動方向とは逆側の領域とに分割し、
前記圧縮ステップは、前記移動方向側領域が前記逆側の領域よりも高画質の画像になるように、前記領域の画像のそれぞれを、圧縮率を変えて圧縮することを特徴とする画像処理方法。 The image processing method according to claim 9.
The dividing step divides into a moving direction side region in the moving direction of the subject and a region opposite to the moving direction,
The image processing method characterized in that the compression step compresses each of the images in the region by changing the compression rate so that the moving direction side region becomes a higher quality image than the opposite side region. .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010238655A JP2012094985A (en) | 2010-10-25 | 2010-10-25 | Image processing device, method, program, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010238655A JP2012094985A (en) | 2010-10-25 | 2010-10-25 | Image processing device, method, program, and storage medium |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2012094985A true JP2012094985A (en) | 2012-05-17 |
Family
ID=46387886
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010238655A Withdrawn JP2012094985A (en) | 2010-10-25 | 2010-10-25 | Image processing device, method, program, and storage medium |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2012094985A (en) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015041971A (en) * | 2013-08-23 | 2015-03-02 | 株式会社ニコン | Image sensor and imaging device |
JP2015153321A (en) * | 2014-02-18 | 2015-08-24 | 日本放送協会 | Image processor, image processing method and program |
JP2019175112A (en) * | 2018-03-28 | 2019-10-10 | キヤノン株式会社 | Image processing device, photographing device, image processing method, and program |
JP2020080479A (en) * | 2018-11-13 | 2020-05-28 | Necプラットフォームズ株式会社 | Moving image recording/reproducing device, moving image transmission system and method |
-
2010
- 2010-10-25 JP JP2010238655A patent/JP2012094985A/en not_active Withdrawn
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015041971A (en) * | 2013-08-23 | 2015-03-02 | 株式会社ニコン | Image sensor and imaging device |
JP2015153321A (en) * | 2014-02-18 | 2015-08-24 | 日本放送協会 | Image processor, image processing method and program |
JP2019175112A (en) * | 2018-03-28 | 2019-10-10 | キヤノン株式会社 | Image processing device, photographing device, image processing method, and program |
JP7117872B2 (en) | 2018-03-28 | 2022-08-15 | キヤノン株式会社 | IMAGE PROCESSING DEVICE, IMAGING DEVICE, IMAGE PROCESSING METHOD, AND PROGRAM |
JP2020080479A (en) * | 2018-11-13 | 2020-05-28 | Necプラットフォームズ株式会社 | Moving image recording/reproducing device, moving image transmission system and method |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101451734B1 (en) | Moving picture capturing device, information processing system, information processing device, and image data processing method | |
US8130279B2 (en) | Image sensing apparatus sensing moving and still images, method thereof, storage medium and computer program | |
JP4895042B2 (en) | Image compression apparatus, image compression method, and program | |
US20130169834A1 (en) | Photo extraction from video | |
WO2009072375A1 (en) | Image processing apparatus, control method thereof, and program | |
US20110102627A1 (en) | Image processing apparatus which sets a region of interest within a frame image and image pickup apparatus using the image processing apparatus | |
JP2008193530A (en) | Image recorder, image recording method and program | |
WO2009122718A1 (en) | Imaging system, imaging method, and computer-readable medium containing program | |
JP2006094058A (en) | Image processing apparatus, program, and method for pre-process to reproduce stationary image as dynamic image | |
US20130121588A1 (en) | Method, apparatus, and program for compressing images, and method, apparatus, and program for decompressing images | |
JP2010212811A (en) | Moving image encoding device and moving image decoding device | |
JP2012094985A (en) | Image processing device, method, program, and storage medium | |
JP2009049976A (en) | Image processing apparatus, image processing method and program | |
JP5082134B2 (en) | Image processing apparatus, image processing method, and program | |
JP2009027457A (en) | Unit and method for processing image, and program | |
JP2012085214A (en) | Data compression method and data compression device | |
JP2020123862A (en) | Image encoding device | |
JP2005184419A (en) | Video signal encoder and video signal recorder | |
US20130028528A1 (en) | Image processing method, encoding device, decoding device, and image processing apparatus | |
JP4580880B2 (en) | Image encoding apparatus, image decoding apparatus, and image processing system | |
US6683986B1 (en) | Efficient transmission of quarter-VGA images using DVC codecs | |
JP4817260B2 (en) | Image processing apparatus, image processing method, and program | |
JP2011199354A (en) | Image processing unit, image reproducing unit, and image processing system | |
JP5062407B2 (en) | Image processing apparatus, image processing method, and program | |
JP2009027563A (en) | Image processor, image processing method, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20140107 |