JP2018050151A - Image coding device, image coding method, and computer program - Google Patents

Image coding device, image coding method, and computer program Download PDF

Info

Publication number
JP2018050151A
JP2018050151A JP2016183835A JP2016183835A JP2018050151A JP 2018050151 A JP2018050151 A JP 2018050151A JP 2016183835 A JP2016183835 A JP 2016183835A JP 2016183835 A JP2016183835 A JP 2016183835A JP 2018050151 A JP2018050151 A JP 2018050151A
Authority
JP
Japan
Prior art keywords
unit
encoding
image
intra
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016183835A
Other languages
Japanese (ja)
Inventor
竹田 英史
Hidefumi Takeda
英史 竹田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016183835A priority Critical patent/JP2018050151A/en
Publication of JP2018050151A publication Critical patent/JP2018050151A/en
Pending legal-status Critical Current

Links

Images

Abstract

PROBLEM TO BE SOLVED: To improve or maintain coding image quality for a photographing mode assumed to include a large number of gradation images.SOLUTION: A coding part 105 codes an image output from an imaging part 101. An intra-smoothing processing determination part 104, when photographing mode information from a photographing mode setting part 102 indicates a photographing mode that is highly likely to include a large number of gradation images, supplies a signal to enable linear interpolation of reference pixels at the boundary of coding blocks in an in-screen prediction mode. The coding part 105 enables linear interpolation of the reference pixels at the boundary of coding blocks in the in-screen prediction mode according to an output from the intra-smoothing processing determination part 104.SELECTED DRAWING: Figure 1

Description

本発明は、画像符号化装置、画像符号化方法及びコンピュータプログラムに関し、特に、画面内予測を用いる画像符号化装置、画像符号化方法及びコンピュータプログラムに関する。   The present invention relates to an image encoding device, an image encoding method, and a computer program, and more particularly, to an image encoding device that uses intra prediction, an image encoding method, and a computer program.

従来、被写体を動画撮影することで得られた動画像データを圧縮符号化して記録するカメラ一体型動画像記録装置として、デジタルビデオカメラがよく知られている。   2. Description of the Related Art Conventionally, a digital video camera is well known as a camera-integrated moving image recording apparatus that compresses and records moving image data obtained by taking a moving image of a subject.

動画圧縮方式としては、フレーム間動き予測を用いて高い圧縮率で圧縮可能なMPEG2方式及びH.264方式が一般的に用いられている。近年では、より複雑な予測方式を用いて高効率に圧縮可能なHEVC方式(ISO/IEC23008−2)が用いられるようになっている。   As the moving image compression method, MPEG2 method and H.264 which can be compressed at a high compression rate using inter-frame motion prediction. The H.264 system is generally used. In recent years, the HEVC method (ISO / IEC 23008-2) that can be compressed with high efficiency using a more complicated prediction method has been used.

HEVC方式では、H.264方式に対して圧縮効率を向上させるためのさまざま改良が採用されている。その一つとして、画面内予測処理時に近接画素間の相関関係を利用して符号化効率を高めるため、符号化ブロックに隣接する参照画素にフィルタ処理を施す技術が知られている。特に、このフィルタ処理において、色の濃淡や明暗が段階的に少しずつ変化するグラデーション領域に対して、視覚的な品質を高めるための特別なフィルタ処理を条件により適用できるようになっている。   In the HEVC system, H.264 is used. Various improvements have been adopted to improve the compression efficiency with respect to the H.264 system. As one of them, a technique is known in which a filtering process is performed on a reference pixel adjacent to a coding block in order to increase the coding efficiency by using the correlation between adjacent pixels during the intra prediction process. In particular, in this filter processing, special filter processing for improving visual quality can be applied to a gradation region in which color shading and lightness change little by little depending on conditions.

図8を参照して、グラデーション領域用フィルタ処理の必要性を簡単に説明する。図8(a)は、グラデーション領域内にブロック境界がある場合の画素値の変化例を示す。横軸は、画素を示し、縦軸は輝度値を示す。H.264方式では、ブロック単位で圧縮処理を行うので、符号化対象ブロック周辺に隣接する符号化済み画素ブロック間でブロック境界の画素が不連続になる。この結果、画面内予測を採用する符号化画像ブロックにおいて、ブロック境界の参照画素間で画素値が不連続な値となったまま予測画像を生成することになる。そうすると、図8(b)に示すように、予測画像に擬似輪郭が発生してしまう。図8(b)では、符号化対象ブロックの中心に右上から左下に接続する線状に擬似輪郭が発生する様子を示す。   With reference to FIG. 8, the necessity of the filtering process for the gradation area will be briefly described. FIG. 8A shows an example of a change in pixel value when there is a block boundary in the gradation area. The horizontal axis represents pixels, and the vertical axis represents luminance values. H. In the H.264 system, compression processing is performed in units of blocks, so that pixels at the block boundary are discontinuous between encoded pixel blocks adjacent to the periphery of the encoding target block. As a result, in a coded image block that employs intra prediction, a predicted image is generated while the pixel values remain discontinuous between reference pixels at the block boundary. Then, as shown in FIG. 8B, a pseudo contour is generated in the predicted image. FIG. 8B shows a state where a pseudo contour is generated in a line connecting from the upper right to the lower left at the center of the encoding target block.

このような問題に対し、特許文献1には、規格で定められている画素位置よりもさらに広範囲に参照画素を定義して予測値を生成する方法が記載されている。特許文献2には、符号化ブロック単位でグラデーション検出を行い、グラデーション画像と判定した画像ブロックにおいては、画面内予測の画素サイズを規格上最小のサイズに設定することが記載されている。   For such a problem, Patent Document 1 describes a method of generating a predicted value by defining a reference pixel in a wider range than a pixel position defined in the standard. Patent Document 2 describes that gradation detection is performed in units of coding blocks, and the pixel size for intra prediction is set to the minimum size in the standard for an image block determined to be a gradation image.

そこで、HEVC方式では、隣接するブロック境界の参照画素両端の画素値と平均値との差の絶対値が、輝度のビット深度に応じて決定される閾値未満である場合、参照画素の中を線形補間するイントラスムージング処理が定義されている。ただし、この処理を適用するためには、ブロック境界間の画素値の差に加え、以下の3条件をすべて満たす必要がある。第1に、周波数変換を行う画素ブロックサイズ(Trasnform Unitサイズ:TUサイズ)が32×32画素であること。第2に、方向性予測のモード値(predModeIntra)が、1(DC予測)、10(水平方向予測)及び26(垂直方向予測)のいずれでもないこと。第3に、シーケンスパラメータセット(以下、「SPS」と呼ぶ)の変数strong_intra_smoothing_enabled_flagが1であること。   Therefore, in the HEVC method, when the absolute value of the difference between the pixel value at both ends of the reference pixel at the adjacent block boundary and the average value is less than a threshold value determined according to the luminance bit depth, the reference pixel is linearly changed. Intra smoothing processing to be interpolated is defined. However, in order to apply this processing, it is necessary to satisfy all of the following three conditions in addition to the difference in pixel values between block boundaries. First, the pixel block size (Transform Unit size: TU size) for frequency conversion is 32 × 32 pixels. Second, the mode value (predModeIntra) of directionality prediction is neither 1 (DC prediction), 10 (horizontal direction prediction), or 26 (vertical direction prediction). Third, the variable strong_intra_smoothing_enabled_flag of the sequence parameter set (hereinafter referred to as “SPS”) is 1.

特開2008−245088公報JP 2008-245088 A 特開2011−239365公報JP2011-239365A

引用文献1に記載の技術は、H.264方式に限定されるものであり、HEVC方式を採用する動画符号化装置には適用できない。   The technique described in the cited document 1 is described in H.C. It is limited to the H.264 system and cannot be applied to a moving picture encoding apparatus that employs the HEVC system.

引用文献2に記載の技術は、HEVC方式のイントラスムージング処理に依らない方法である。しかし、マクロブロック単位での処理になるので、符号化ピクチャ全体および動画シーケンス全体で符号化効率を必ずしも高めることができない。   The technique described in the cited document 2 is a method that does not depend on the HEVC type intra smoothing process. However, since the processing is performed in units of macroblocks, it is not always possible to increase the encoding efficiency for the entire encoded picture and the entire moving image sequence.

HEVC方式のイントラスムージング処理を採用する方式において、SPS中の変数strong_intra_smoothing_enabled_flagを常に1にすると、符号化シーケンスすべてに対して線形補間フィルタ処理が適用される。この方法では、入力画像の絵柄によっては画像の解像感が損なわれてしまい、必ずしも視覚特性を向上できない場合がある。   In the method employing the HEVC method of intra smoothing, when the variable strong_intra_smoothing_enabled_flag in the SPS is always set to 1, the linear interpolation filter process is applied to all the encoded sequences. In this method, depending on the design of the input image, the resolution of the image may be impaired, and visual characteristics may not necessarily be improved.

本発明は、入力画像に応じて適応的にイントラスムージング処理の適用を決定できる、HEVC方式を適用可能な画像符号化装置、画像符号化方法及びコンピュータプログラムを提示することを目的とする。   It is an object of the present invention to present an image encoding device, an image encoding method, and a computer program that can apply the HEVC method and that can adaptively determine application of an intra smoothing process according to an input image.

上記課題を解決するために、本発明に係る画像符号化装置は、設定された撮影モードに従い被写体を撮像する撮像手段を符号化する画像符号化装置であって、前記撮像手段の出力画像を符号化ブロック単位で符号化する符号化手段であって、画面内予測モードにおいて符号化ブロック境界の参照画素を線形補間するモードを有する符号化手段と、前記符号化手段が符号化対象ブロック画像に対して前記画面内予測モードでの参照画像の線形補間処理の適用を決定するイントラスムージング処理決定手段であって、前記撮像手段に設定される撮影モードがグラデーション画像を所定以上に含む可能性のある所定撮影モードである場合に、前記線形補間の有効化を前記符号化手段に指示するイントラスムージング処理決定手段とを有することを特徴とする。   In order to solve the above problems, an image encoding device according to the present invention is an image encoding device that encodes an imaging unit that captures an image of a subject according to a set shooting mode, and encodes an output image of the imaging unit. Coding means for coding in units of coded blocks, wherein the coding means has a mode for linearly interpolating reference pixels at the coding block boundary in the intra prediction mode; and the coding means performs coding on a block image to be coded. An intra-smoothing process determining unit that determines application of linear interpolation processing of the reference image in the intra-screen prediction mode, wherein a shooting mode set in the imaging unit may include a gradation image more than a predetermined value. And an intra-smoothing process determining means for instructing the encoding means to validate the linear interpolation in the photographing mode. To.

本発明によれば、グラデーション画像を多く含む可能性のある撮影モードか否かにより、画面内予測モードでの参照画像の線形補間処理を制御するので、簡単な処理により符号化画質を維持または改善できる。   According to the present invention, since the linear interpolation processing of the reference image in the intra prediction mode is controlled depending on whether or not the shooting mode may include many gradation images, the encoded image quality is maintained or improved by simple processing. it can.

本発明の実施例1の概略構成ブロック図である。It is a schematic block diagram of Example 1 of the present invention. 実施例1の符号化部の概略構成ブロック図である。FIG. 3 is a schematic configuration block diagram of an encoding unit according to the first embodiment. 実施例1の動作フローチャートである。3 is an operation flowchart according to the first embodiment. 実施例1の符号化データ構造例である。It is an example of the encoding data structure of Example 1. FIG. 実施例1のパラメータセットのリンク例である。It is an example of a link of the parameter set of Example 1. FIG. 実施例2の概略構成ブロック図である。6 is a schematic configuration block diagram of Embodiment 2. FIG. 実施例2の構成と使用例である。It is a structure and usage example of Example 2. FIG. 実施例2の動作フローチャートである。6 is an operation flowchart of the second embodiment. 従来技術で発生する擬似輪郭の説明図である。It is explanatory drawing of the pseudo contour which generate | occur | produces with a prior art.

以下、図面を参照して、本発明の実施例を詳細に説明する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.

図1は、本発明に係る画像符号化装置の一実施例を導入した撮像装置の概略構成ブロック図を示す。図1に示す撮像装置は、撮像部101、撮影モード設定部102、操作部103、イントラスムージング処理決定部104および符号化部105から構成されている。   FIG. 1 is a block diagram showing a schematic configuration of an image pickup apparatus in which one embodiment of an image encoding apparatus according to the present invention is introduced. The imaging apparatus illustrated in FIG. 1 includes an imaging unit 101, a shooting mode setting unit 102, an operation unit 103, an intra smoothing process determination unit 104, and an encoding unit 105.

撮像部101は、CCDセンサ等の撮像素子、撮像素子に被写体光学像を入射する光学系、及び、撮像素子の出力画像信号をデジタル化し、所定の映像フォーマットの動画像データとして出力する画像処理部からなる。   The imaging unit 101 is an image sensor such as a CCD sensor, an optical system that inputs a subject optical image to the image sensor, and an image processing unit that digitizes an output image signal of the image sensor and outputs it as moving image data in a predetermined video format. Consists of.

撮影モード設定部102は、操作部103によるユーザ操作と撮影シーンに合わせて、予め定めたホワイトバランス、色調及びシャッタスピード等の各種カメラパラメータの組み合わせを撮影モードとして撮像部101に設定する機能を有する。操作部103は、ジョグダイヤル、選択キー、決定キー及びモード設定キー等の種々のキー、及びタッチパネルからなる。   The shooting mode setting unit 102 has a function of setting, in the imaging unit 101, a combination of various camera parameters such as a white balance, a color tone, and a shutter speed, which are determined in advance, according to a user operation by the operation unit 103 and a shooting scene. . The operation unit 103 includes various keys such as a jog dial, a selection key, a determination key, and a mode setting key, and a touch panel.

本実施例は、撮影モードの一つとして、撮像装置を固定設置し、被写体を所定の一定間隔で定点撮影するのに適したモード、例えば、星空インターバル動画モードを有する。以後、星空インターバル動画モードとして説明をするが、夜景撮影モード、星空モード、微速度撮影、タイムラプスモード及び低速度撮影などの、撮像装置本体を固定して撮影する所定撮影モードに、本発明は適用可能である。   The present embodiment has, as one of the shooting modes, a mode suitable for fixed-point shooting of an object at a predetermined fixed interval, for example, a starry sky interval moving image mode, as an imaging device. Hereinafter, although described as the starry sky interval movie mode, the present invention is applied to a predetermined shooting mode in which the imaging device body is fixed and shot, such as night view shooting mode, starry sky mode, time-lapse shooting, time-lapse mode, and time-lapse shooting. Is possible.

撮影モード設定部102は、操作部103からの記録開始の指示に応じて、撮像部101に設定する撮影モードをイントラスムージング処理決定部104に通知する。   In response to a recording start instruction from the operation unit 103, the shooting mode setting unit 102 notifies the intra smoothing processing determination unit 104 of a shooting mode to be set in the imaging unit 101.

イントラスムージング処理決定部104は、撮影モード設定部102から通知される撮影モード情報から、符号化すべき画像中にグラデーション画像を所定以上に含む可能性のある上述の所定撮影モードか否かを判断する。所定撮影モードの場合に、イントラスムージング処理決定部104は、画面内予測モードでイントラスムージング処理を有効にすることを指示する指示信号(スムージング有効化指示信号)を符号化部105に出力する。例えば、星空インターバル記録モードでは、星空が撮影されることから、符号化部105の入力画像には、イントラスムージング処理に適したグラデーション画像が多く含まれる。   The intra smoothing processing determination unit 104 determines from the shooting mode information notified from the shooting mode setting unit 102 whether or not the above-described predetermined shooting mode has a possibility that the image to be encoded contains a gradation image more than a predetermined value. . In the case of the predetermined shooting mode, the intra smoothing process determination unit 104 outputs an instruction signal (smoothing activation instruction signal) instructing to enable the intra smoothing process in the intra prediction mode to the encoding unit 105. For example, in the starry sky interval recording mode, since the starry sky is photographed, the input image of the encoding unit 105 includes many gradation images suitable for the intra smoothing process.

符号化部105は、撮像部101から出力される動画像データを、イントラスムージング処理決定部104からの通知信号を参照しつつ、HEVC方式で圧縮符号化し、得られた符号データを所定のビットストリーム形式で出力する。   The encoding unit 105 compresses and encodes the moving image data output from the imaging unit 101 by the HEVC method while referring to the notification signal from the intra-smoothing process determination unit 104, and the obtained code data is a predetermined bit stream. Output in format.

図2は、符号化部105の概略構成ブロック図を示す。符号化部105は、撮像部101からの動画像データをフレーム単位でフレームメモリ201に格納する。フレームメモリ201は、他に、動き予測処理で用いる参照画像データを格納する。   FIG. 2 shows a schematic block diagram of the encoding unit 105. The encoding unit 105 stores the moving image data from the imaging unit 101 in the frame memory 201 in units of frames. In addition, the frame memory 201 stores reference image data used in motion prediction processing.

イントラ予測部202は、フレームメモリ201に格納されたフレーム画像データから符号化対象ブロックの画像データを読み出し、符号化対象ブロック周辺の参照画素データから生成される複数のイントラ予測画像との相関を計算する。イントラ予測部202には、イントラスムージング処理決定部104の出力信号も入力する。イントラスムージング処理決定部104からスムージング有効化指示信号が入力する場合、イントラ予測部202は、イントラ予測のための予測画像の生成において符号化ブロック境界の参照画素に対する線形補間処理を有効にする。イントラ予測部202は、最も相関の高いイントラ予測方式を選択し、イントラ・インター判定部204に通知する。   The intra prediction unit 202 reads the image data of the encoding target block from the frame image data stored in the frame memory 201, and calculates correlations with a plurality of intra prediction images generated from the reference pixel data around the encoding target block. To do. The intra prediction unit 202 also receives the output signal of the intra smoothing process determination unit 104. When the smoothing activation instruction signal is input from the intra-smoothing process determination unit 104, the intra-prediction unit 202 validates the linear interpolation process for the reference pixel at the coding block boundary in the generation of the predicted image for intra prediction. The intra prediction unit 202 selects an intra prediction method having the highest correlation and notifies the intra / inter determination unit 204 of the intra prediction method.

インター予測部203は、フレームメモリ201に格納される符号化対象ブロックの原画像データと符号化済みの画像データとの間で、符号化ブロック単位で画素データ同士のパターンマッチングを行い、動きベクトルを算出する。インター予測部203は、算出した動きベクトルをイントラ・インター判定部204に供給する。   The inter prediction unit 203 performs pattern matching between pixel data in units of encoding blocks between the original image data of the encoding target block stored in the frame memory 201 and the encoded image data, and obtains a motion vector. calculate. The inter prediction unit 203 supplies the calculated motion vector to the intra / inter determination unit 204.

イントラ・インター判定部204は、イントラ予測部202とインター予測部203の出力結果に基づいて適用すべき予測モードを決定し、予測画像生成部205に出力する。例えば、イントラ・インター判定部204は、イントラ予測部202の出力に従い、符号化対象画像ブロックについて予測画像を生成し、この予測画像と符号化対象ブロック画像との予測誤差を算出する。イントラ・インター判定部204はまた、インター予測部203で求めた動きベクトルに従い、参照画像から予測画像を生成し、この予測画像と符号化対象ブロック画像との予測誤差を算出する。そして、イントラ・インター判定部204は両予測誤差を比較し、小さい方の予測方式を、符号化に適用すべき予測モードとする。イントラ予測部202及び/またはインター予測部203が予測誤差の算出までを実行している場合、イントラ・インター判定部204は、不足する予測誤差を算出した上で、比較し、適用すべき予測モードを決定すればよい。   The intra / inter determination unit 204 determines a prediction mode to be applied based on the output results of the intra prediction unit 202 and the inter prediction unit 203, and outputs the prediction mode to the predicted image generation unit 205. For example, the intra / inter determination unit 204 generates a prediction image for the encoding target image block according to the output of the intra prediction unit 202, and calculates a prediction error between the prediction image and the encoding target block image. The intra / inter determination unit 204 also generates a prediction image from the reference image according to the motion vector obtained by the inter prediction unit 203, and calculates a prediction error between the prediction image and the encoding target block image. Then, the intra / inter determination unit 204 compares both prediction errors, and sets the smaller prediction method as a prediction mode to be applied to encoding. In the case where the intra prediction unit 202 and / or the inter prediction unit 203 are executing up to the calculation of the prediction error, the intra / inter determination unit 204 calculates a prediction error that is insufficient, compares them, and applies a prediction mode to be applied. Can be determined.

予測画像生成部205は、イントラ・インター判定部204で決定された予測モードに応じて予測画像を生成する。予測画像生成部205には、イントラスムージング処理決定部104の出力信号も入力する。イントラスムージング処理決定部104がスムージング有効化指示信号を出力する場合、先に説明したように、符号化対象画像はグラデーション画像ということになる。予測画像生成部205は、グラデーション画像の場合、イントラ予測モード、TUサイズが32×32画素、そして、方向性予測のモード値が1、10及び26のいずれでもないという3条件を、適用すべき符号化条件が満たすかどうかを判定する。これらの3条件を満たすとき、予測画像生成部205は、線形補間処理を施した参照画素から予測画像を生成する。   The predicted image generation unit 205 generates a predicted image according to the prediction mode determined by the intra / inter determination unit 204. The predicted image generation unit 205 also receives the output signal of the intra smoothing process determination unit 104. When the intra-smoothing process determination unit 104 outputs the smoothing validation instruction signal, the encoding target image is a gradation image as described above. In the case of a gradation image, the prediction image generation unit 205 should apply the three conditions that the intra prediction mode, the TU size is 32 × 32 pixels, and the directionality prediction mode value is neither 1, 10, nor 26. It is determined whether or not the encoding condition is satisfied. When these three conditions are satisfied, the predicted image generation unit 205 generates a predicted image from the reference pixels subjected to the linear interpolation process.

減算器214は、フレームメモリ201からの符号化すべき画像データから、予測画像生成部205からの予測画像を減算する。減算器214での減算により生成される差分画像データは、整数変換部206に入力する。整数変換部206は、減算器214からの差分画像データを符号化ブロック単位で空間周波数領域に変換する。整数変換部206の整数変換は、周波数変換の一例である。   The subtracter 214 subtracts the predicted image from the predicted image generation unit 205 from the image data to be encoded from the frame memory 201. The difference image data generated by the subtraction in the subtracter 214 is input to the integer conversion unit 206. The integer conversion unit 206 converts the difference image data from the subtracter 214 into a spatial frequency domain in units of encoded blocks. The integer conversion of the integer conversion unit 206 is an example of frequency conversion.

量子化部207は、目標符号量に基づいて量子化係数を算出し、整数変換部206から出力される空間周波数領域の係数データを量子化する。量子化された係数データは、エントロピー符号化部208と逆量子化部210に入力する。   The quantization unit 207 calculates a quantization coefficient based on the target code amount, and quantizes the spatial frequency domain coefficient data output from the integer transform unit 206. The quantized coefficient data is input to the entropy encoding unit 208 and the inverse quantization unit 210.

エントロピー符号化部208は、量子化部207からの量子化された係数データをエントロピー符号化する。例えば、エントロピー符号化部208は、インター予測の場合、動き予測で用いたベクトル値を、CABAC(コンテキスト適応算術符号化)方式等のビットデータの出現確率の偏りを利用して情報圧縮する。エントロピー符号化部208は、圧縮後の符号化データをビットストリーム生成部213に供給する。   The entropy encoding unit 208 entropy encodes the quantized coefficient data from the quantization unit 207. For example, in the case of inter prediction, the entropy encoding unit 208 compresses information on a vector value used in motion prediction using a bias in the appearance probability of bit data such as a CABAC (context adaptive arithmetic coding) method. The entropy encoding unit 208 supplies the encoded data after compression to the bit stream generation unit 213.

ビットストリーム生成部213は、エントロピー符号化部208からの符号化データに復号に必要なパラメータを含むヘッダ情報を付加し、所定のストリーミング形式で出力する。復号処理に必要なパラメータは、例えば、SPS及びピクチャパラメタセット(以下、「PPS」という。)を含む。ビットストリーム生成部213はまた、符号化画像においてイントラスムージング処理を適用したピクチャに対しSPS中のstrong_intra_smoothing_enabled_flagフィールド値を1としたヘッダを参照するように関連付ける。イントラスムージング処理を適用した符号化ピクチャに対するSPSおよびPPSヘッダとの関連付け方法の詳細と、ビットストリームのデータ構造との関係は。後述する。ビットストリーム生成部213の出力は、例えば、メモリカードまたはハードディスクなどの図示しない記録媒体に記録される。   The bit stream generation unit 213 adds header information including parameters necessary for decoding to the encoded data from the entropy encoding unit 208, and outputs the data in a predetermined streaming format. Parameters necessary for the decoding process include, for example, an SPS and a picture parameter set (hereinafter referred to as “PPS”). The bit stream generation unit 213 also associates the picture to which the intra smoothing process is applied in the encoded image so as to refer to a header having a strong_intra_smoothing_enabled_flag field value of 1 in the SPS. What are the details of the method of associating the SPS and PPS headers for the coded picture to which the intra-smoothing process is applied, and the relationship between the data structure of the bit stream? It will be described later. The output of the bit stream generation unit 213 is recorded on a recording medium (not shown) such as a memory card or a hard disk.

符号量制御部209は、エントロピー符号化部208が出力する符号化データの符号量を取得し、ビットレート及びバッファモデルに基づいて1ピクチャ当たりの目標符号量を算出し、量子化部207の量子化係数をフィードバック制御する。   The code amount control unit 209 obtains the code amount of the encoded data output from the entropy encoding unit 208, calculates the target code amount per picture based on the bit rate and the buffer model, and Feedback control of the quantization factor.

ローカルでの復号処理に関係する部分を説明する。逆量子化部210は、量子化部207からの量子化した係数データに量子化係数を乗算することで逆量子化する。これにより、係数データが再構成される。逆整数変換部211は、逆量子化部210から出力される係数データを画素データに逆整数変換する。加算器215は、逆整数変換部211の出力に予測画像生成部205からの予測画像データを加算する。これにより、画像データが復元される。加算器215の出力画像データは参照画像データとして予測画像生成部205とループフィルタ212に供給される。   The part related to the local decoding process will be described. The inverse quantization unit 210 performs inverse quantization by multiplying the quantized coefficient data from the quantization unit 207 by a quantization coefficient. Thereby, the coefficient data is reconstructed. The inverse integer transform unit 211 performs inverse integer transform of the coefficient data output from the inverse quantization unit 210 into pixel data. The adder 215 adds the predicted image data from the predicted image generation unit 205 to the output of the inverse integer conversion unit 211. Thereby, the image data is restored. The output image data of the adder 215 is supplied to the predicted image generation unit 205 and the loop filter 212 as reference image data.

ループフィルタ212は、加算器215の出力画像データに、ブロック境界で発生する符号化歪みを軽減するフィルタ処理を施し、フレームメモリ201に格納する。   The loop filter 212 performs filter processing to reduce the coding distortion generated at the block boundary on the output image data of the adder 215 and stores the filter image in the frame memory 201.

撮影モード設定部102、イントラスムージング処理決定部104及び符号化部105の一部または全部の機能は、コンピュータ上で動作するコンピュータプログラムによっても実現されうる。   Some or all of the functions of the shooting mode setting unit 102, the intra smoothing process determination unit 104, and the encoding unit 105 can be realized by a computer program that runs on a computer.

図3は、本実施例の符号化処理のフローチャートを示す。図3に示す処理は、撮影モード設定部102、イントラスムージング処理決定部104および符号化部105により実行される。図3に示す処理は、コンピュータ上で実行可能なコンピュータプログラムによっても実現可能である。撮影モード設定部102(または、全体を制御する図示しないCPU)が、撮像部101から符号化部105に新たにフレーム画像データが入力するタイミング、または、予め設定された動作状態チェックのタイミングで、図3に示す処理を実行する。   FIG. 3 shows a flowchart of the encoding process of the present embodiment. The process shown in FIG. 3 is executed by the shooting mode setting unit 102, the intra smoothing process determination unit 104, and the encoding unit 105. The processing shown in FIG. 3 can also be realized by a computer program that can be executed on a computer. The shooting mode setting unit 102 (or a CPU (not shown) that controls the whole) inputs a new frame image data from the imaging unit 101 to the encoding unit 105 or sets a preset operation state check. The process shown in FIG. 3 is executed.

S301で、撮影モード設定部102は、操作部103に対するユーザ操作等をトリガーとして記録開始状態かどうかを判断する。記録開始状態でない場合(S301でFALSE),図3に示すフローを終了する。記録開始状態である場合(S301でTRUE)、S302に移行する。   In step S <b> 301, the shooting mode setting unit 102 determines whether the recording start state is triggered by a user operation or the like on the operation unit 103. If it is not in the recording start state (FALSE in S301), the flow shown in FIG. If it is in the recording start state (TRUE in S301), the process proceeds to S302.

S302で、イントラスムージング処理決定部104は、撮影モード設定部102から、撮像部101に現在設定されている撮影モードを示す撮影モード情報を取得する。S303で、イントラスムージング処理決定部104は、撮影モード設定部102からの撮影モード情報により、撮像部101の撮影モードが星空インターバルモードかどうかを判断する。設定されている撮影モードが星空インターバルモードである場合(S303でTRUE)、イントラスムージング処理決定部104は、イントラスムージング処理有効化信号(オンまたは高)を符号化部105に出力し、S304に移行する。星空インターバルモードでない場合(S303でFALSE)、イントラスムージング処理決定部104は、符号化部105へのイントラスムージング処理有効化信号をオフまたは低にして、S306に移行する。   In step S <b> 302, the intra smoothing processing determination unit 104 acquires shooting mode information indicating the shooting mode currently set in the imaging unit 101 from the shooting mode setting unit 102. In step S <b> 303, the intra smoothing processing determination unit 104 determines whether the shooting mode of the imaging unit 101 is the starry sky interval mode based on the shooting mode information from the shooting mode setting unit 102. When the set shooting mode is the starry sky interval mode (TRUE in S303), the intra smoothing process determining unit 104 outputs an intra smoothing process enabling signal (ON or HIGH) to the encoding unit 105, and the process proceeds to S304. To do. When it is not the starlit sky interval mode (FALSE in S303), the intra smoothing process determination unit 104 turns off or lowers the intra smoothing process enable signal to the encoding unit 105, and proceeds to S306.

S304で、符号化部105は、イントラスムージング処理決定部104の出力(イントラスムージング処理有効化信号=高)に従い、イントラスムージング処理を有効化して入力フレーム画像データを符号化する。S305で、ビットストリーム生成部213は、符号化したピクチャデータについて、strong_intra_smoothing_enabled_flagを1に設定したSPSとスライスヘッダを関連付けたビットストリームを生成する。   In S304, the encoding unit 105 encodes the input frame image data by enabling the intra-smoothing process according to the output of the intra-smoothing process determining unit 104 (intra-smoothing process enable signal = high). In step S <b> 305, the bit stream generation unit 213 generates a bit stream that associates an SPS with a strong_intra_smoothing_enabled_flag set to 1 and a slice header for the encoded picture data.

S306で、符号化部105は、イントラスムージング処理決定部104の出力(イントラスムージング処理有効化信号=低)に従い、フレーム画像データを、イントラスムージング処理を無効にして圧縮符号化する。S307で、ビットストリーム生成部213は、符号化したピクチャデータについて、strong_intra_smoothing_enabled_flagを0に設定したSPSとスライスヘッダを関連付けてビットストリーム生成する。   In step S <b> 306, the encoding unit 105 compresses and encodes the frame image data with the intra smoothing process disabled according to the output of the intra smoothing process determination unit 104 (intra smoothing process enable signal = low). In step S307, the bit stream generation unit 213 generates a bit stream for the encoded picture data by associating the SPS with strong_intra_smoothing_enabled_flag set to 0 and the slice header.

ビットストリーム生成部213から出力されるビットストリームデータの構造を説明する。図4Aは、ステップS305およびS307において、イントラスムージング処理を有効にした場合のビットストリーム構造例を示し、図4Bは、パラメータセットの参照関係を示す。   The structure of the bit stream data output from the bit stream generation unit 213 will be described. FIG. 4A shows an example of a bit stream structure when the intra smoothing process is enabled in steps S305 and S307, and FIG. 4B shows a reference relationship of parameter sets.

図4Aに示すように、HEVC方式の符号化ビットストリ-ムでは、H.264方式と同じく複数のアクセスユニット(以下、「AU」という。)が復号順に連続したデータ構造が採用されている。各AUは、画面単位に復号化可能な符号化データから成る。AUは、開始位置を示すアクセスユニットデリミタ(AUD)、復号時に必要な各種パラメータを持つビデオパラメタセット(VPS)、及び、SPSまたはPPSと呼ばれる複数のNALユニットから構成される。実際のマクロブロック単位で符号化されたデータは、スライスデータとしてヘッダパラメタに続いて1ピクチャずつ格納される。   As shown in FIG. 4A, the HEVC encoded bitstream uses the H.264 standard. As in the H.264 system, a data structure in which a plurality of access units (hereinafter referred to as “AU”) are consecutive in decoding order is employed. Each AU consists of encoded data that can be decoded on a screen-by-screen basis. The AU includes an access unit delimiter (AUD) indicating a start position, a video parameter set (VPS) having various parameters necessary for decoding, and a plurality of NAL units called SPS or PPS. Data encoded in actual macroblock units is stored as slice data for each picture following the header parameter.

SPSと呼ばれるヘッダ情報及びPPSと呼ばれるヘッダ情報はいずれも、規格上、ストリーム途中で変更可能である。例えば、絵柄に応じて量子化マトリクス及びデブロッキングフィルタ強度等のパラメータをAU単位にリロードできる。この機能を実現するには、ストリーム出力のタイミングで、符号化スライスデータと、この符号化スライスデータを復号する際に必要なヘッダ情報とを、それぞれのヘッダ情報に含まれる識別子(ID)によって関連付ける。   Both the header information called SPS and the header information called PPS can be changed during the stream according to the standard. For example, parameters such as a quantization matrix and deblocking filter strength can be reloaded in AU units according to the pattern. In order to realize this function, at the stream output timing, the encoded slice data and the header information necessary for decoding the encoded slice data are associated by the identifier (ID) included in each header information. .

図4Bは、VPS、SPS、PPS及びスライスデータ間の参照関係を示す。VPSは、当該VPSを識別するためのvps_video_parameter_set_idを持つ。SPSは、当該SPSが参照するVPSのIDを付したsps_video_parameter_set_idと、当該SPSを識別するためのsps_seq_parameter_set_idを持つ。同様に、PPSは、当該PPSが参照するSPSのIDを付したpps_seq_parameter_set_idと、当該PPSを識別するpps_pic_parameter_set_idを持つ。スライスヘッダは、当該スライスが参照するPPSのIDと、slice_pic_parameter_set_idを収容する。これら識別情報のリンクに基づいて、図4Bに矢印で示す参照関係のように、スライスデータからPPS、PPSからSPS、そしてSPSからVPSへと同じIDとなるヘッダ情報の関連づけを行う。これにより、AU単位で異なるヘッダを参照できるようになる。   FIG. 4B shows a reference relationship between VPS, SPS, PPS, and slice data. The VPS has vps_video_parameter_set_id for identifying the VPS. The SPS has sps_video_parameter_set_id with the ID of the VPS referred to by the SPS, and sps_seq_parameter_set_id for identifying the SPS. Similarly, the PPS has pps_seq_parameter_set_id with the ID of the SPS referred to by the PPS, and pps_pic_parameter_set_id for identifying the PPS. The slice header contains a PPS ID referenced by the slice and slice_pic_parameter_set_id. Based on the links of the identification information, as shown in the reference relationship indicated by arrows in FIG. 4B, the header information having the same ID is associated from the slice data to PPS, from PPS to SPS, and from SPS to VPS. Thereby, a different header can be referred for each AU.

図4Bに示す例では、スライス0およびスライス1に該当する入力画像の撮影モードが星空インターバルモード以外であり、スライス2に該当する部分が星空インターバルモードの画像である。この結果、これらスライス0,1に対して、strong_intra_smoothing_enabled_flag値が0のSPS0を参照する構成になっている。スライス2に対しては、strong_intra_smoothing_enabled_flag値が1のSPS2を参照するようになっている。これにより、スライス2の復号時には、スムージング処理を用いた予測画像を生成してブロック境界の歪みの無い再生画像を得ることができる。   In the example shown in FIG. 4B, the shooting mode of the input image corresponding to slice 0 and slice 1 is other than the starry sky interval mode, and the portion corresponding to slice 2 is an image of the starry sky interval mode. As a result, these slices 0 and 1 are configured to refer to SPS0 having a strong_intra_smoothing_enabled_flag value of 0. For slice 2, SPS2 having strong_intra_smoothing_enabled_flag value of 1 is referred to. Thereby, at the time of decoding of slice 2, it is possible to generate a predicted image using smoothing processing and obtain a reproduced image without block boundary distortion.

ステップS305,S307で行うイントラスムージング処理の有効または無効の設定は、符号化済みのスライスデータが生成された後に、それぞれ対応するフラグ値を有するSPSを予め用意してから関連づけるようにしても良い。   The setting of whether to enable or disable the intra smoothing process performed in steps S305 and S307 may be performed after preparing SPS having a corresponding flag value after the encoded slice data is generated.

このように、実施例1では、スライス単位でイントラスムージング処理の有効・無効を切り替えることができる。イントラスムージング処理の有効・無効を記録開始時点の撮影モードで一意に決定するので、迅速且つ容易にイントラスムージング処理の有効・無効を決定できる。   As described above, in the first embodiment, the validity / invalidity of the intra smoothing process can be switched in units of slices. Since the validity / invalidity of the intra-smoothing process is uniquely determined by the shooting mode at the start of recording, the validity / invalidity of the intra-smoothing process can be determined quickly and easily.

固定設置した定点撮影の状況にあるかを検出する撮影状態取得手段を設け、固定設置されている場合にはイントラスムージング処理の有効化するようにした実施例2を説明する。   A description will be given of a second embodiment in which shooting state acquisition means for detecting whether or not fixed-point shooting is in a fixed installation is provided, and in the case of fixed installation, the intra smoothing process is validated.

図5は、実施例2を採用する撮像装置の概略構成ブロック図を示す。実施例1と同じ構成要素には同じ符号を付してある。実施例1に対して、加速度センサ511、GPSセンサ512、三脚接点検知部513及び撮影状態取得部514が追加され、これら要素により、撮像装置本体が固定設置されているかどうかを判定する。イントラスムージング処理決定部504は、撮影モード設定部102からの撮影モード情報に加えて、撮影状態取得部514の出力にも従い、符号化部105のイントラスムージング処理の有効・無効を制御する。   FIG. 5 is a block diagram illustrating a schematic configuration of an imaging apparatus that employs the second embodiment. The same components as those in the first embodiment are denoted by the same reference numerals. An acceleration sensor 511, a GPS sensor 512, a tripod contact detection unit 513, and a shooting state acquisition unit 514 are added to the first embodiment, and it is determined by these elements whether the imaging apparatus main body is fixedly installed. The intra smoothing process determination unit 504 controls validity / invalidity of the intra smoothing process of the encoding unit 105 according to the output of the shooting state acquisition unit 514 in addition to the shooting mode information from the shooting mode setting unit 102.

加速度センサ511は、MEMS(Micro Electro Mechanical Systems)技術を用いた作成された小型の加速度計であり、地球の重力加速度を計測して撮像装置の傾きを検出する機能を有する。加速度センサ511は、取得した加速度情報を撮影状態取得部514に出力する。   The acceleration sensor 511 is a small accelerometer created using MEMS (Micro Electro Mechanical Systems) technology, and has a function of measuring the gravitational acceleration of the earth and detecting the tilt of the imaging device. The acceleration sensor 511 outputs the acquired acceleration information to the shooting state acquisition unit 514.

GPSセンサ512は、GPS(Global Positioning System)衛星からの電波を受信して、当該撮影装置が地球上のどこにいるかを正確に割り出す機能を有する。GPSセンサ512は、取得した3次元位置座標情報(緯度、経度、高度)を撮影状態取得部514に出力する。   The GPS sensor 512 has a function of receiving radio waves from a GPS (Global Positioning System) satellite and accurately determining where the imaging device is on the earth. The GPS sensor 512 outputs the acquired three-dimensional position coordinate information (latitude, longitude, altitude) to the imaging state acquisition unit 514.

三脚接点検知部513は三脚着脱検知手段として、撮像装置の底面に設けられる三脚取り付け用ネジ穴(図6(a)参照)への三脚または一脚の取り付け(図6(b),(c)参照)を検知する圧電スイッチからなる。三脚接点検知部513は、三脚取り付けを検知すると、検知信号を撮影状態取得部514に出力する。図7(a)は、図5に示す撮像装置の底面図を示す。図7(b)は、三脚を取り付けた状態の正面図を示し、図7(c)は一脚を取り付けた状態の正面図を示す。   The tripod contact detection unit 513 serves as a tripod attachment / detachment detection means for attaching a tripod or a monopod to a tripod mounting screw hole (see FIG. 6A) provided on the bottom surface of the imaging apparatus (FIGS. 6B and 6C). (See Fig. 4). When the tripod contact detection unit 513 detects the tripod attachment, the tripod contact detection unit 513 outputs a detection signal to the imaging state acquisition unit 514. FIG. 7A shows a bottom view of the imaging apparatus shown in FIG. FIG.7 (b) shows the front view of the state which attached the tripod, FIG.7 (c) shows the front view of the state which attached the monopod.

撮影状態取得部514は、加速度センサ511、GPSセンサ512および三脚接点検知部513の出力に従い、当該撮影装置が固定設置状態にあるかどうかを判断し、その判断結果をイントラスムージング処理決定部504に供給する。例えば、加速度センサ511の出力値として、いずれの空間軸方向についても加速度が発生していない場合に、撮影状態取得部514は、固定設置状態であると判断する。GPSセンサ512の出力値が所定の時間間隔で複数回取得した位置情報に差分が無い場合、撮影状態取得部514は、固定設置状態であると判断する。また、三脚接点検知部513の出力値が、三脚(または一脚)の装着を示す場合に、撮影状態取得部514は、固定設置状態と判断する。   The imaging state acquisition unit 514 determines whether or not the imaging device is in a fixed installation state according to the outputs of the acceleration sensor 511, the GPS sensor 512, and the tripod contact detection unit 513, and the determination result is sent to the intra smoothing processing determination unit 504. Supply. For example, when no acceleration is generated in any spatial axis direction as the output value of the acceleration sensor 511, the imaging state acquisition unit 514 determines that it is in a fixed installation state. If there is no difference in the position information acquired by the output value of the GPS sensor 512 a plurality of times at a predetermined time interval, the shooting state acquisition unit 514 determines that the fixed installation state is set. Further, when the output value of the tripod contact detection unit 513 indicates that a tripod (or a monopod) is attached, the photographing state acquisition unit 514 determines that the fixed installation state is present.

なお、固定設置状態か否かを判断するのに、加速度センサ511、GPSセンサ512および三脚接点検知部513は固定設置状態の判定に必要な手段の例示であり、必要な範囲でこれらのうちの何れか1以上を有すれば良い。また、メニュー操作によりユーザが固定設置状態を、撮影モード設定部102を介してイントラスムージング処理決定部504に通知するようにしてもよい。   Note that the acceleration sensor 511, the GPS sensor 512, and the tripod contact detection unit 513 are examples of means necessary for determining the fixed installation state in order to determine whether or not the fixed installation state is set. Any one or more may be provided. In addition, the user may notify the intra-moothing process determination unit 504 of the fixed installation state via the shooting mode setting unit 102 by a menu operation.

図7は、図5に示す実施例2の動作フローチャートを示す。図7を参照して、実施例2における、設置状態判定を用いたイントラスムージング処理判定処理を説明する。   FIG. 7 shows an operation flowchart of the second embodiment shown in FIG. With reference to FIG. 7, the intra smoothing process determination process using the installation state determination in the second embodiment will be described.

ステップS701,S702,S703の処理はそれぞれ、ステップS301,S302,S303の処理と同様であるので、説明を省略する。星空インターバルモードである場合(S703でTRUE)、S704に移行する。星空インターバルモードでない場合(S703でFALSE)、イントラスムージング処理決定部504は、符号化部105へのイントラスムージング処理有効化信号をオフまたは低にして、S708に移行する。   Since the processes of steps S701, S702, and S703 are the same as the processes of steps S301, S302, and S303, respectively, description thereof is omitted. When it is the starry sky interval mode (TRUE in S703), the process proceeds to S704. If it is not the starry sky interval mode (FALSE in S703), the intra smoothing process determination unit 504 turns off or lowers the intra smoothing process enable signal to the encoding unit 105, and proceeds to S708.

S704で、イントラスムージング処理決定部504は、撮影状態取得部514から撮像装置の設置状況と設置姿勢情報を取得する。S705で、イントラスムージング処理決定部504は、固定撮影状態、則ちイントラスムージング処理に適したグラデーション画像を含む画像データを長時間記録するシチュエーションに適した固定設置状態にあるかどうかを判定する。固定設置状態にある場合(S705でTRUE)、イントラスムージング処理決定部104は、イントラスムージング処理有効化信号(オンまたは高)を符号化部105に出力し、S706に移行する。固定設置状態にない場合(S705でFALSE)、イントラスムージング処理決定部504は、符号化部105へのイントラスムージング処理有効化信号をオフまたは低にして、S708に移行する。   In step S <b> 704, the intra smoothing processing determination unit 504 acquires the installation state and installation posture information of the imaging apparatus from the imaging state acquisition unit 514. In step S <b> 705, the intra smoothing process determination unit 504 determines whether or not it is in a fixed installation state suitable for a fixed shooting state, that is, a situation in which image data including a gradation image suitable for the intra smoothing process is recorded for a long time. When in the fixed installation state (TRUE in S705), the intra smoothing process determining unit 104 outputs the intra smoothing process enabling signal (ON or high) to the encoding unit 105, and the process proceeds to S706. If it is not in the fixed installation state (FALSE in S705), the intra smoothing processing determination unit 504 turns off or lowers the intra smoothing processing enabling signal to the encoding unit 105, and proceeds to S708.

ステップS706,S707,S708,S709の処理はそれぞれ、S304,S305,S306,S307の処理と同じであるので、詳細な説明を省略する。   Since the processes in steps S706, S707, S708, and S709 are the same as the processes in S304, S305, S306, and S307, respectively, detailed description thereof is omitted.

撮像装置が固定設定状態にない場合、符号化部には、グラデーション画像が連続的に入力する可能性は低いと考えられる。そこで、本実施例では、撮影モードにかかわりなく、固定設定状態のときには一律にイントラスムージング処理を無効にすることで、グラデーション画像判定の処理負担を軽減している。   When the imaging apparatus is not in the fixed setting state, it is considered that the possibility that the gradation image is continuously input to the encoding unit is low. Therefore, in this embodiment, the processing load for gradation image determination is reduced by uniformly disabling the intra smoothing process in the fixed setting state regardless of the shooting mode.

本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。   The present invention supplies a program that realizes one or more functions of the above-described embodiments to a system or apparatus via a network or a storage medium, and one or more processors in a computer of the system or apparatus read and execute the program This process can be realized. It can also be realized by a circuit (for example, ASIC) that realizes one or more functions.

Claims (9)

設定された撮影モードに従い被写体を撮像する撮像手段を符号化する画像符号化装置であって、
前記撮像手段の出力画像を符号化ブロック単位で符号化する符号化手段であって、画面内予測モードにおいて符号化ブロック境界の参照画素を線形補間するモードを有する符号化手段と、
前記符号化手段が符号化対象ブロック画像に対して前記画面内予測モードでの参照画像の線形補間処理の適用を決定するイントラスムージング処理決定手段であって、前記撮像手段に設定される撮影モードがグラデーション画像を所定以上に含む可能性のある所定撮影モードである場合に、前記線形補間の有効化を前記符号化手段に指示するイントラスムージング処理決定手段
とを有することを特徴とする画像符号化装置。
An image encoding device that encodes an imaging unit that images a subject according to a set shooting mode,
Encoding means for encoding an output image of the imaging means in units of encoding blocks, and encoding means having a mode for linearly interpolating reference pixels at the encoding block boundary in the intra prediction mode;
The encoding unit is an intra-smoothing process determining unit that determines application of linear interpolation processing of a reference image in the intra prediction mode to an encoding target block image, and a shooting mode set in the imaging unit is An image encoding apparatus comprising: an intra-smoothing process determining unit that instructs the encoding unit to validate the linear interpolation in a predetermined shooting mode that may include a gradation image more than a predetermined level. .
前記所定撮影モードが、夜景撮影モード、星空モード、星空インターバルモード及びタイムラプスモードのいずれかであることを特徴とする請求項1に記載の画像符号化装置。   The image encoding apparatus according to claim 1, wherein the predetermined shooting mode is any one of a night scene shooting mode, a starry sky mode, a starry sky interval mode, and a time lapse mode. 更に、前記撮像手段の設置状態を取得する撮影状態取得手段を有し、
前記イントラスムージング処理決定手段は、前記撮像手段に設定される撮影モードがグラデーション画像を所定以上に含む可能性のある所定撮影モードであり、前記撮影状態取得手段により取得される前記設置状態が固定設置状態を示す場合に、前記線形補間の有効化を前記符号化手段に指示する
ことを特徴とする請求項1または2に記載の画像符号化装置。
Furthermore, it has an imaging state acquisition means for acquiring an installation state of the imaging means,
The intra smoothing determination unit is a predetermined shooting mode in which a shooting mode set in the imaging unit may include a gradation image more than a predetermined value, and the installation state acquired by the shooting state acquisition unit is fixed installation 3. The image encoding apparatus according to claim 1, wherein when the status is indicated, the encoding unit is instructed to enable the linear interpolation. 4.
前記撮影状態取得手段は、前記撮像手段に対する加速度センサ、GPSセンサ及び三脚着脱検知手段の一つ以上を有することを特徴とする請求項3に記載の画像符号化装置。   The image coding apparatus according to claim 3, wherein the photographing state acquisition unit includes one or more of an acceleration sensor, a GPS sensor, and a tripod attachment / detachment detection unit for the imaging unit. 前記撮影状態取得手段は、前記加速度センサの出力がいずれの空間軸方向についても加速度が発生していないことを示す場合に、前記固定設置状態を前記イントラスムージング処理決定手段に通知することを特徴とする請求項4に記載の画像符号化装置。   The imaging state acquisition unit notifies the intra-moothing process determination unit of the fixed installation state when the output of the acceleration sensor indicates that no acceleration is generated in any spatial axis direction. The image encoding device according to claim 4. 前記撮影状態取得手段は、前記GPSセンサの出力が所定の時間間隔で複数回取得した位置情報に差分が無いことを示す場合に、前記固定設置状態を前記イントラスムージング処理決定手段に通知することを特徴とする請求項4に記載の画像符号化装置。   The imaging state acquisition unit notifies the intra smoothing process determination unit of the fixed installation state when the output of the GPS sensor indicates that there is no difference in position information acquired a plurality of times at predetermined time intervals. The image encoding device according to claim 4, wherein 前記撮影状態取得手段は、前記三脚着脱検知手段の出力が三脚または一脚の装着を示す場合に、前記固定設置状態を前記イントラスムージング処理決定手段に通知することを特徴とする請求項4に記載の画像符号化装置。   5. The imaging state acquisition unit notifies the intra-moothing process determination unit of the fixed installation state when the output of the tripod attachment / detachment detection unit indicates mounting of a tripod or a monopod. Image coding apparatus. 設定された撮影モードに従い被写体を撮像する撮像手段の出力画像を符号化する画像符号化方法であって、
前記撮像手段に設定される撮影モードがグラデーション画像を所定以上に含む可能性のある所定撮影モードである場合に、画面内予測モードにおいて符号化ブロック境界の参照画素の線形補間を有効化するイントラスムージング処理決定ステップと、
前記撮像手段の前記出力画像を符号化ブロック単位で符号化する符号化ステップであって、前記線形補間の有効化に従い、前記画面内予測モードにおいて符号化ブロックの境界の参照画素を線形補間する符号化ステップ
とを有することを特徴とする画像符号化方法。
An image encoding method for encoding an output image of an imaging unit that images a subject according to a set shooting mode,
Intra-smoothing that enables linear interpolation of reference pixels at the coding block boundary in the intra prediction mode when the shooting mode set in the imaging means is a predetermined shooting mode that may include a gradation image more than a predetermined value. A processing decision step;
A coding step for coding the output image of the imaging unit in coding block units, wherein the interpolation is performed by linearly interpolating reference pixels at the boundary of the coding block in the intra prediction mode according to the validation of the linear interpolation; And a coding step.
設定された撮影モードに従い被写体を撮像する撮像手段を符号化するコンピュータプログラムであって、コンピュータを、
前記撮像手段の出力画像を符号化ブロック単位で符号化する符号化手段であって、画面内予測モードにおいて符号化ブロック境界の参照画素を線形補間するモードを有する符号化手段と、
前記符号化手段が符号化対象ブロック画像に対して前記画面内予測モードでの参照画像の線形補間処理の適用を決定するイントラスムージング処理決定手段であって、前記撮像手段に設定される撮影モードがグラデーション画像を所定以上に含む可能性のある所定撮影モードである場合に、前記線形補間の有効化を前記符号化手段に指示するイントラスムージング処理決定手段
として機能させるためのコンピュータプログラム。
A computer program for encoding imaging means for imaging a subject according to a set shooting mode, the computer comprising:
Encoding means for encoding an output image of the imaging means in units of encoding blocks, and encoding means having a mode for linearly interpolating reference pixels at the encoding block boundary in the intra prediction mode;
The encoding unit is an intra-smoothing process determining unit that determines application of linear interpolation processing of a reference image in the intra prediction mode to an encoding target block image, and a shooting mode set in the imaging unit is A computer program for functioning as an intra-smoothing process determining unit that instructs the encoding unit to validate the linear interpolation in a predetermined shooting mode that may include more than a predetermined gradation image.
JP2016183835A 2016-09-21 2016-09-21 Image coding device, image coding method, and computer program Pending JP2018050151A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016183835A JP2018050151A (en) 2016-09-21 2016-09-21 Image coding device, image coding method, and computer program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016183835A JP2018050151A (en) 2016-09-21 2016-09-21 Image coding device, image coding method, and computer program

Publications (1)

Publication Number Publication Date
JP2018050151A true JP2018050151A (en) 2018-03-29

Family

ID=61767770

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016183835A Pending JP2018050151A (en) 2016-09-21 2016-09-21 Image coding device, image coding method, and computer program

Country Status (1)

Country Link
JP (1) JP2018050151A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020009400A1 (en) * 2018-07-02 2020-01-09 엘지전자 주식회사 Method and apparatus for processing video signal by using intra-prediction
WO2020013583A1 (en) * 2018-07-13 2020-01-16 엘지전자 주식회사 Image decoding method and device according to intra prediction in image coding system
WO2020106186A1 (en) * 2018-11-19 2020-05-28 Huawei Technologies Co., Ltd. Method and apparatus for hierarchical signaling of enabling and disabling prediction mechanisms for video coding

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020009400A1 (en) * 2018-07-02 2020-01-09 엘지전자 주식회사 Method and apparatus for processing video signal by using intra-prediction
US11438579B2 (en) 2018-07-02 2022-09-06 Lg Electronics Inc. Method and apparatus for processing video signal by using intra-prediction
WO2020013583A1 (en) * 2018-07-13 2020-01-16 엘지전자 주식회사 Image decoding method and device according to intra prediction in image coding system
WO2020106186A1 (en) * 2018-11-19 2020-05-28 Huawei Technologies Co., Ltd. Method and apparatus for hierarchical signaling of enabling and disabling prediction mechanisms for video coding
US11438629B2 (en) 2018-11-19 2022-09-06 Huawei Technologies Co., Ltd. Method and apparatus for hierarchical signaling of enabling and disabling prediction mechanisms for video coding

Similar Documents

Publication Publication Date Title
US7760953B2 (en) Image processing apparatus and method, computer program, and storage medium with varied block shapes to execute motion detection
JP4799438B2 (en) Image recording apparatus, image recording method, image encoding apparatus, and program
US8983217B2 (en) Stereo image encoding apparatus, its method, and image pickup apparatus having stereo image encoding apparatus
KR101482896B1 (en) Optimized deblocking filters
CN107646194B (en) Apparatus and method for video motion compensation
JP6149707B2 (en) Moving picture coding apparatus, moving picture coding method, moving picture coding program, and moving picture photographing apparatus
WO2017060951A1 (en) Image compression apparatus, image decoding apparatus, and image processing method
JP2018050151A (en) Image coding device, image coding method, and computer program
KR20150135457A (en) Method for encoding a plurality of input images and storage medium and device for storing program
US9438925B2 (en) Video encoder with block merging and methods for use therewith
JP2014075698A (en) Image encoder, image encoding method and program
KR20140026397A (en) Method for reconstructing and coding an image block
JP5165084B2 (en) Image encoding device
US20160057414A1 (en) Method for encoding a plurality of input images, and storage medium having program stored thereon and apparatus
JP4564856B2 (en) Image encoding apparatus and imaging apparatus
JP2018191136A (en) Encoding device, encoding method and program
CN111373749B (en) Method and apparatus for low complexity bi-directional intra prediction in video encoding and decoding
JP2012222460A (en) Moving image encoding apparatus, moving image encoding method, and program
WO2023204848A1 (en) Mmvd candidate refinement methods
JP2018050150A (en) Image coding device, image coding method, and computer program
JP2014179921A (en) Dynamic image encoder, control method thereof, and program
JP6016484B2 (en) Encoder
KR100814715B1 (en) Moving-picture coding apparatus and method
JP2019009605A (en) Image processing device, image processing method, and program
US20140119448A1 (en) Moving image encoding apparatus, image capturing apparatus, and method of controlling moving image encoding apparatus

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20180227