JP2018050151A - Image coding device, image coding method, and computer program - Google Patents
Image coding device, image coding method, and computer program Download PDFInfo
- Publication number
- JP2018050151A JP2018050151A JP2016183835A JP2016183835A JP2018050151A JP 2018050151 A JP2018050151 A JP 2018050151A JP 2016183835 A JP2016183835 A JP 2016183835A JP 2016183835 A JP2016183835 A JP 2016183835A JP 2018050151 A JP2018050151 A JP 2018050151A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- encoding
- image
- intra
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
Description
本発明は、画像符号化装置、画像符号化方法及びコンピュータプログラムに関し、特に、画面内予測を用いる画像符号化装置、画像符号化方法及びコンピュータプログラムに関する。 The present invention relates to an image encoding device, an image encoding method, and a computer program, and more particularly, to an image encoding device that uses intra prediction, an image encoding method, and a computer program.
従来、被写体を動画撮影することで得られた動画像データを圧縮符号化して記録するカメラ一体型動画像記録装置として、デジタルビデオカメラがよく知られている。 2. Description of the Related Art Conventionally, a digital video camera is well known as a camera-integrated moving image recording apparatus that compresses and records moving image data obtained by taking a moving image of a subject.
動画圧縮方式としては、フレーム間動き予測を用いて高い圧縮率で圧縮可能なMPEG2方式及びH.264方式が一般的に用いられている。近年では、より複雑な予測方式を用いて高効率に圧縮可能なHEVC方式(ISO/IEC23008−2)が用いられるようになっている。 As the moving image compression method, MPEG2 method and H.264 which can be compressed at a high compression rate using inter-frame motion prediction. The H.264 system is generally used. In recent years, the HEVC method (ISO / IEC 23008-2) that can be compressed with high efficiency using a more complicated prediction method has been used.
HEVC方式では、H.264方式に対して圧縮効率を向上させるためのさまざま改良が採用されている。その一つとして、画面内予測処理時に近接画素間の相関関係を利用して符号化効率を高めるため、符号化ブロックに隣接する参照画素にフィルタ処理を施す技術が知られている。特に、このフィルタ処理において、色の濃淡や明暗が段階的に少しずつ変化するグラデーション領域に対して、視覚的な品質を高めるための特別なフィルタ処理を条件により適用できるようになっている。 In the HEVC system, H.264 is used. Various improvements have been adopted to improve the compression efficiency with respect to the H.264 system. As one of them, a technique is known in which a filtering process is performed on a reference pixel adjacent to a coding block in order to increase the coding efficiency by using the correlation between adjacent pixels during the intra prediction process. In particular, in this filter processing, special filter processing for improving visual quality can be applied to a gradation region in which color shading and lightness change little by little depending on conditions.
図8を参照して、グラデーション領域用フィルタ処理の必要性を簡単に説明する。図8(a)は、グラデーション領域内にブロック境界がある場合の画素値の変化例を示す。横軸は、画素を示し、縦軸は輝度値を示す。H.264方式では、ブロック単位で圧縮処理を行うので、符号化対象ブロック周辺に隣接する符号化済み画素ブロック間でブロック境界の画素が不連続になる。この結果、画面内予測を採用する符号化画像ブロックにおいて、ブロック境界の参照画素間で画素値が不連続な値となったまま予測画像を生成することになる。そうすると、図8(b)に示すように、予測画像に擬似輪郭が発生してしまう。図8(b)では、符号化対象ブロックの中心に右上から左下に接続する線状に擬似輪郭が発生する様子を示す。 With reference to FIG. 8, the necessity of the filtering process for the gradation area will be briefly described. FIG. 8A shows an example of a change in pixel value when there is a block boundary in the gradation area. The horizontal axis represents pixels, and the vertical axis represents luminance values. H. In the H.264 system, compression processing is performed in units of blocks, so that pixels at the block boundary are discontinuous between encoded pixel blocks adjacent to the periphery of the encoding target block. As a result, in a coded image block that employs intra prediction, a predicted image is generated while the pixel values remain discontinuous between reference pixels at the block boundary. Then, as shown in FIG. 8B, a pseudo contour is generated in the predicted image. FIG. 8B shows a state where a pseudo contour is generated in a line connecting from the upper right to the lower left at the center of the encoding target block.
このような問題に対し、特許文献1には、規格で定められている画素位置よりもさらに広範囲に参照画素を定義して予測値を生成する方法が記載されている。特許文献2には、符号化ブロック単位でグラデーション検出を行い、グラデーション画像と判定した画像ブロックにおいては、画面内予測の画素サイズを規格上最小のサイズに設定することが記載されている。
For such a problem,
そこで、HEVC方式では、隣接するブロック境界の参照画素両端の画素値と平均値との差の絶対値が、輝度のビット深度に応じて決定される閾値未満である場合、参照画素の中を線形補間するイントラスムージング処理が定義されている。ただし、この処理を適用するためには、ブロック境界間の画素値の差に加え、以下の3条件をすべて満たす必要がある。第1に、周波数変換を行う画素ブロックサイズ(Trasnform Unitサイズ:TUサイズ)が32×32画素であること。第2に、方向性予測のモード値(predModeIntra)が、1(DC予測)、10(水平方向予測)及び26(垂直方向予測)のいずれでもないこと。第3に、シーケンスパラメータセット(以下、「SPS」と呼ぶ)の変数strong_intra_smoothing_enabled_flagが1であること。 Therefore, in the HEVC method, when the absolute value of the difference between the pixel value at both ends of the reference pixel at the adjacent block boundary and the average value is less than a threshold value determined according to the luminance bit depth, the reference pixel is linearly changed. Intra smoothing processing to be interpolated is defined. However, in order to apply this processing, it is necessary to satisfy all of the following three conditions in addition to the difference in pixel values between block boundaries. First, the pixel block size (Transform Unit size: TU size) for frequency conversion is 32 × 32 pixels. Second, the mode value (predModeIntra) of directionality prediction is neither 1 (DC prediction), 10 (horizontal direction prediction), or 26 (vertical direction prediction). Third, the variable strong_intra_smoothing_enabled_flag of the sequence parameter set (hereinafter referred to as “SPS”) is 1.
引用文献1に記載の技術は、H.264方式に限定されるものであり、HEVC方式を採用する動画符号化装置には適用できない。
The technique described in the cited
引用文献2に記載の技術は、HEVC方式のイントラスムージング処理に依らない方法である。しかし、マクロブロック単位での処理になるので、符号化ピクチャ全体および動画シーケンス全体で符号化効率を必ずしも高めることができない。
The technique described in the cited
HEVC方式のイントラスムージング処理を採用する方式において、SPS中の変数strong_intra_smoothing_enabled_flagを常に1にすると、符号化シーケンスすべてに対して線形補間フィルタ処理が適用される。この方法では、入力画像の絵柄によっては画像の解像感が損なわれてしまい、必ずしも視覚特性を向上できない場合がある。 In the method employing the HEVC method of intra smoothing, when the variable strong_intra_smoothing_enabled_flag in the SPS is always set to 1, the linear interpolation filter process is applied to all the encoded sequences. In this method, depending on the design of the input image, the resolution of the image may be impaired, and visual characteristics may not necessarily be improved.
本発明は、入力画像に応じて適応的にイントラスムージング処理の適用を決定できる、HEVC方式を適用可能な画像符号化装置、画像符号化方法及びコンピュータプログラムを提示することを目的とする。 It is an object of the present invention to present an image encoding device, an image encoding method, and a computer program that can apply the HEVC method and that can adaptively determine application of an intra smoothing process according to an input image.
上記課題を解決するために、本発明に係る画像符号化装置は、設定された撮影モードに従い被写体を撮像する撮像手段を符号化する画像符号化装置であって、前記撮像手段の出力画像を符号化ブロック単位で符号化する符号化手段であって、画面内予測モードにおいて符号化ブロック境界の参照画素を線形補間するモードを有する符号化手段と、前記符号化手段が符号化対象ブロック画像に対して前記画面内予測モードでの参照画像の線形補間処理の適用を決定するイントラスムージング処理決定手段であって、前記撮像手段に設定される撮影モードがグラデーション画像を所定以上に含む可能性のある所定撮影モードである場合に、前記線形補間の有効化を前記符号化手段に指示するイントラスムージング処理決定手段とを有することを特徴とする。 In order to solve the above problems, an image encoding device according to the present invention is an image encoding device that encodes an imaging unit that captures an image of a subject according to a set shooting mode, and encodes an output image of the imaging unit. Coding means for coding in units of coded blocks, wherein the coding means has a mode for linearly interpolating reference pixels at the coding block boundary in the intra prediction mode; and the coding means performs coding on a block image to be coded. An intra-smoothing process determining unit that determines application of linear interpolation processing of the reference image in the intra-screen prediction mode, wherein a shooting mode set in the imaging unit may include a gradation image more than a predetermined value. And an intra-smoothing process determining means for instructing the encoding means to validate the linear interpolation in the photographing mode. To.
本発明によれば、グラデーション画像を多く含む可能性のある撮影モードか否かにより、画面内予測モードでの参照画像の線形補間処理を制御するので、簡単な処理により符号化画質を維持または改善できる。 According to the present invention, since the linear interpolation processing of the reference image in the intra prediction mode is controlled depending on whether or not the shooting mode may include many gradation images, the encoded image quality is maintained or improved by simple processing. it can.
以下、図面を参照して、本発明の実施例を詳細に説明する。 Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
図1は、本発明に係る画像符号化装置の一実施例を導入した撮像装置の概略構成ブロック図を示す。図1に示す撮像装置は、撮像部101、撮影モード設定部102、操作部103、イントラスムージング処理決定部104および符号化部105から構成されている。
FIG. 1 is a block diagram showing a schematic configuration of an image pickup apparatus in which one embodiment of an image encoding apparatus according to the present invention is introduced. The imaging apparatus illustrated in FIG. 1 includes an
撮像部101は、CCDセンサ等の撮像素子、撮像素子に被写体光学像を入射する光学系、及び、撮像素子の出力画像信号をデジタル化し、所定の映像フォーマットの動画像データとして出力する画像処理部からなる。
The
撮影モード設定部102は、操作部103によるユーザ操作と撮影シーンに合わせて、予め定めたホワイトバランス、色調及びシャッタスピード等の各種カメラパラメータの組み合わせを撮影モードとして撮像部101に設定する機能を有する。操作部103は、ジョグダイヤル、選択キー、決定キー及びモード設定キー等の種々のキー、及びタッチパネルからなる。
The shooting
本実施例は、撮影モードの一つとして、撮像装置を固定設置し、被写体を所定の一定間隔で定点撮影するのに適したモード、例えば、星空インターバル動画モードを有する。以後、星空インターバル動画モードとして説明をするが、夜景撮影モード、星空モード、微速度撮影、タイムラプスモード及び低速度撮影などの、撮像装置本体を固定して撮影する所定撮影モードに、本発明は適用可能である。 The present embodiment has, as one of the shooting modes, a mode suitable for fixed-point shooting of an object at a predetermined fixed interval, for example, a starry sky interval moving image mode, as an imaging device. Hereinafter, although described as the starry sky interval movie mode, the present invention is applied to a predetermined shooting mode in which the imaging device body is fixed and shot, such as night view shooting mode, starry sky mode, time-lapse shooting, time-lapse mode, and time-lapse shooting. Is possible.
撮影モード設定部102は、操作部103からの記録開始の指示に応じて、撮像部101に設定する撮影モードをイントラスムージング処理決定部104に通知する。
In response to a recording start instruction from the
イントラスムージング処理決定部104は、撮影モード設定部102から通知される撮影モード情報から、符号化すべき画像中にグラデーション画像を所定以上に含む可能性のある上述の所定撮影モードか否かを判断する。所定撮影モードの場合に、イントラスムージング処理決定部104は、画面内予測モードでイントラスムージング処理を有効にすることを指示する指示信号(スムージング有効化指示信号)を符号化部105に出力する。例えば、星空インターバル記録モードでは、星空が撮影されることから、符号化部105の入力画像には、イントラスムージング処理に適したグラデーション画像が多く含まれる。
The intra smoothing
符号化部105は、撮像部101から出力される動画像データを、イントラスムージング処理決定部104からの通知信号を参照しつつ、HEVC方式で圧縮符号化し、得られた符号データを所定のビットストリーム形式で出力する。
The
図2は、符号化部105の概略構成ブロック図を示す。符号化部105は、撮像部101からの動画像データをフレーム単位でフレームメモリ201に格納する。フレームメモリ201は、他に、動き予測処理で用いる参照画像データを格納する。
FIG. 2 shows a schematic block diagram of the
イントラ予測部202は、フレームメモリ201に格納されたフレーム画像データから符号化対象ブロックの画像データを読み出し、符号化対象ブロック周辺の参照画素データから生成される複数のイントラ予測画像との相関を計算する。イントラ予測部202には、イントラスムージング処理決定部104の出力信号も入力する。イントラスムージング処理決定部104からスムージング有効化指示信号が入力する場合、イントラ予測部202は、イントラ予測のための予測画像の生成において符号化ブロック境界の参照画素に対する線形補間処理を有効にする。イントラ予測部202は、最も相関の高いイントラ予測方式を選択し、イントラ・インター判定部204に通知する。
The
インター予測部203は、フレームメモリ201に格納される符号化対象ブロックの原画像データと符号化済みの画像データとの間で、符号化ブロック単位で画素データ同士のパターンマッチングを行い、動きベクトルを算出する。インター予測部203は、算出した動きベクトルをイントラ・インター判定部204に供給する。
The
イントラ・インター判定部204は、イントラ予測部202とインター予測部203の出力結果に基づいて適用すべき予測モードを決定し、予測画像生成部205に出力する。例えば、イントラ・インター判定部204は、イントラ予測部202の出力に従い、符号化対象画像ブロックについて予測画像を生成し、この予測画像と符号化対象ブロック画像との予測誤差を算出する。イントラ・インター判定部204はまた、インター予測部203で求めた動きベクトルに従い、参照画像から予測画像を生成し、この予測画像と符号化対象ブロック画像との予測誤差を算出する。そして、イントラ・インター判定部204は両予測誤差を比較し、小さい方の予測方式を、符号化に適用すべき予測モードとする。イントラ予測部202及び/またはインター予測部203が予測誤差の算出までを実行している場合、イントラ・インター判定部204は、不足する予測誤差を算出した上で、比較し、適用すべき予測モードを決定すればよい。
The intra /
予測画像生成部205は、イントラ・インター判定部204で決定された予測モードに応じて予測画像を生成する。予測画像生成部205には、イントラスムージング処理決定部104の出力信号も入力する。イントラスムージング処理決定部104がスムージング有効化指示信号を出力する場合、先に説明したように、符号化対象画像はグラデーション画像ということになる。予測画像生成部205は、グラデーション画像の場合、イントラ予測モード、TUサイズが32×32画素、そして、方向性予測のモード値が1、10及び26のいずれでもないという3条件を、適用すべき符号化条件が満たすかどうかを判定する。これらの3条件を満たすとき、予測画像生成部205は、線形補間処理を施した参照画素から予測画像を生成する。
The predicted
減算器214は、フレームメモリ201からの符号化すべき画像データから、予測画像生成部205からの予測画像を減算する。減算器214での減算により生成される差分画像データは、整数変換部206に入力する。整数変換部206は、減算器214からの差分画像データを符号化ブロック単位で空間周波数領域に変換する。整数変換部206の整数変換は、周波数変換の一例である。
The
量子化部207は、目標符号量に基づいて量子化係数を算出し、整数変換部206から出力される空間周波数領域の係数データを量子化する。量子化された係数データは、エントロピー符号化部208と逆量子化部210に入力する。
The
エントロピー符号化部208は、量子化部207からの量子化された係数データをエントロピー符号化する。例えば、エントロピー符号化部208は、インター予測の場合、動き予測で用いたベクトル値を、CABAC(コンテキスト適応算術符号化)方式等のビットデータの出現確率の偏りを利用して情報圧縮する。エントロピー符号化部208は、圧縮後の符号化データをビットストリーム生成部213に供給する。
The
ビットストリーム生成部213は、エントロピー符号化部208からの符号化データに復号に必要なパラメータを含むヘッダ情報を付加し、所定のストリーミング形式で出力する。復号処理に必要なパラメータは、例えば、SPS及びピクチャパラメタセット(以下、「PPS」という。)を含む。ビットストリーム生成部213はまた、符号化画像においてイントラスムージング処理を適用したピクチャに対しSPS中のstrong_intra_smoothing_enabled_flagフィールド値を1としたヘッダを参照するように関連付ける。イントラスムージング処理を適用した符号化ピクチャに対するSPSおよびPPSヘッダとの関連付け方法の詳細と、ビットストリームのデータ構造との関係は。後述する。ビットストリーム生成部213の出力は、例えば、メモリカードまたはハードディスクなどの図示しない記録媒体に記録される。
The bit
符号量制御部209は、エントロピー符号化部208が出力する符号化データの符号量を取得し、ビットレート及びバッファモデルに基づいて1ピクチャ当たりの目標符号量を算出し、量子化部207の量子化係数をフィードバック制御する。
The code
ローカルでの復号処理に関係する部分を説明する。逆量子化部210は、量子化部207からの量子化した係数データに量子化係数を乗算することで逆量子化する。これにより、係数データが再構成される。逆整数変換部211は、逆量子化部210から出力される係数データを画素データに逆整数変換する。加算器215は、逆整数変換部211の出力に予測画像生成部205からの予測画像データを加算する。これにより、画像データが復元される。加算器215の出力画像データは参照画像データとして予測画像生成部205とループフィルタ212に供給される。
The part related to the local decoding process will be described. The
ループフィルタ212は、加算器215の出力画像データに、ブロック境界で発生する符号化歪みを軽減するフィルタ処理を施し、フレームメモリ201に格納する。
The
撮影モード設定部102、イントラスムージング処理決定部104及び符号化部105の一部または全部の機能は、コンピュータ上で動作するコンピュータプログラムによっても実現されうる。
Some or all of the functions of the shooting
図3は、本実施例の符号化処理のフローチャートを示す。図3に示す処理は、撮影モード設定部102、イントラスムージング処理決定部104および符号化部105により実行される。図3に示す処理は、コンピュータ上で実行可能なコンピュータプログラムによっても実現可能である。撮影モード設定部102(または、全体を制御する図示しないCPU)が、撮像部101から符号化部105に新たにフレーム画像データが入力するタイミング、または、予め設定された動作状態チェックのタイミングで、図3に示す処理を実行する。
FIG. 3 shows a flowchart of the encoding process of the present embodiment. The process shown in FIG. 3 is executed by the shooting
S301で、撮影モード設定部102は、操作部103に対するユーザ操作等をトリガーとして記録開始状態かどうかを判断する。記録開始状態でない場合(S301でFALSE),図3に示すフローを終了する。記録開始状態である場合(S301でTRUE)、S302に移行する。
In step S <b> 301, the shooting
S302で、イントラスムージング処理決定部104は、撮影モード設定部102から、撮像部101に現在設定されている撮影モードを示す撮影モード情報を取得する。S303で、イントラスムージング処理決定部104は、撮影モード設定部102からの撮影モード情報により、撮像部101の撮影モードが星空インターバルモードかどうかを判断する。設定されている撮影モードが星空インターバルモードである場合(S303でTRUE)、イントラスムージング処理決定部104は、イントラスムージング処理有効化信号(オンまたは高)を符号化部105に出力し、S304に移行する。星空インターバルモードでない場合(S303でFALSE)、イントラスムージング処理決定部104は、符号化部105へのイントラスムージング処理有効化信号をオフまたは低にして、S306に移行する。
In step S <b> 302, the intra smoothing
S304で、符号化部105は、イントラスムージング処理決定部104の出力(イントラスムージング処理有効化信号=高)に従い、イントラスムージング処理を有効化して入力フレーム画像データを符号化する。S305で、ビットストリーム生成部213は、符号化したピクチャデータについて、strong_intra_smoothing_enabled_flagを1に設定したSPSとスライスヘッダを関連付けたビットストリームを生成する。
In S304, the
S306で、符号化部105は、イントラスムージング処理決定部104の出力(イントラスムージング処理有効化信号=低)に従い、フレーム画像データを、イントラスムージング処理を無効にして圧縮符号化する。S307で、ビットストリーム生成部213は、符号化したピクチャデータについて、strong_intra_smoothing_enabled_flagを0に設定したSPSとスライスヘッダを関連付けてビットストリーム生成する。
In step S <b> 306, the
ビットストリーム生成部213から出力されるビットストリームデータの構造を説明する。図4Aは、ステップS305およびS307において、イントラスムージング処理を有効にした場合のビットストリーム構造例を示し、図4Bは、パラメータセットの参照関係を示す。
The structure of the bit stream data output from the bit
図4Aに示すように、HEVC方式の符号化ビットストリ-ムでは、H.264方式と同じく複数のアクセスユニット(以下、「AU」という。)が復号順に連続したデータ構造が採用されている。各AUは、画面単位に復号化可能な符号化データから成る。AUは、開始位置を示すアクセスユニットデリミタ(AUD)、復号時に必要な各種パラメータを持つビデオパラメタセット(VPS)、及び、SPSまたはPPSと呼ばれる複数のNALユニットから構成される。実際のマクロブロック単位で符号化されたデータは、スライスデータとしてヘッダパラメタに続いて1ピクチャずつ格納される。 As shown in FIG. 4A, the HEVC encoded bitstream uses the H.264 standard. As in the H.264 system, a data structure in which a plurality of access units (hereinafter referred to as “AU”) are consecutive in decoding order is employed. Each AU consists of encoded data that can be decoded on a screen-by-screen basis. The AU includes an access unit delimiter (AUD) indicating a start position, a video parameter set (VPS) having various parameters necessary for decoding, and a plurality of NAL units called SPS or PPS. Data encoded in actual macroblock units is stored as slice data for each picture following the header parameter.
SPSと呼ばれるヘッダ情報及びPPSと呼ばれるヘッダ情報はいずれも、規格上、ストリーム途中で変更可能である。例えば、絵柄に応じて量子化マトリクス及びデブロッキングフィルタ強度等のパラメータをAU単位にリロードできる。この機能を実現するには、ストリーム出力のタイミングで、符号化スライスデータと、この符号化スライスデータを復号する際に必要なヘッダ情報とを、それぞれのヘッダ情報に含まれる識別子(ID)によって関連付ける。 Both the header information called SPS and the header information called PPS can be changed during the stream according to the standard. For example, parameters such as a quantization matrix and deblocking filter strength can be reloaded in AU units according to the pattern. In order to realize this function, at the stream output timing, the encoded slice data and the header information necessary for decoding the encoded slice data are associated by the identifier (ID) included in each header information. .
図4Bは、VPS、SPS、PPS及びスライスデータ間の参照関係を示す。VPSは、当該VPSを識別するためのvps_video_parameter_set_idを持つ。SPSは、当該SPSが参照するVPSのIDを付したsps_video_parameter_set_idと、当該SPSを識別するためのsps_seq_parameter_set_idを持つ。同様に、PPSは、当該PPSが参照するSPSのIDを付したpps_seq_parameter_set_idと、当該PPSを識別するpps_pic_parameter_set_idを持つ。スライスヘッダは、当該スライスが参照するPPSのIDと、slice_pic_parameter_set_idを収容する。これら識別情報のリンクに基づいて、図4Bに矢印で示す参照関係のように、スライスデータからPPS、PPSからSPS、そしてSPSからVPSへと同じIDとなるヘッダ情報の関連づけを行う。これにより、AU単位で異なるヘッダを参照できるようになる。 FIG. 4B shows a reference relationship between VPS, SPS, PPS, and slice data. The VPS has vps_video_parameter_set_id for identifying the VPS. The SPS has sps_video_parameter_set_id with the ID of the VPS referred to by the SPS, and sps_seq_parameter_set_id for identifying the SPS. Similarly, the PPS has pps_seq_parameter_set_id with the ID of the SPS referred to by the PPS, and pps_pic_parameter_set_id for identifying the PPS. The slice header contains a PPS ID referenced by the slice and slice_pic_parameter_set_id. Based on the links of the identification information, as shown in the reference relationship indicated by arrows in FIG. 4B, the header information having the same ID is associated from the slice data to PPS, from PPS to SPS, and from SPS to VPS. Thereby, a different header can be referred for each AU.
図4Bに示す例では、スライス0およびスライス1に該当する入力画像の撮影モードが星空インターバルモード以外であり、スライス2に該当する部分が星空インターバルモードの画像である。この結果、これらスライス0,1に対して、strong_intra_smoothing_enabled_flag値が0のSPS0を参照する構成になっている。スライス2に対しては、strong_intra_smoothing_enabled_flag値が1のSPS2を参照するようになっている。これにより、スライス2の復号時には、スムージング処理を用いた予測画像を生成してブロック境界の歪みの無い再生画像を得ることができる。
In the example shown in FIG. 4B, the shooting mode of the input image corresponding to slice 0 and
ステップS305,S307で行うイントラスムージング処理の有効または無効の設定は、符号化済みのスライスデータが生成された後に、それぞれ対応するフラグ値を有するSPSを予め用意してから関連づけるようにしても良い。 The setting of whether to enable or disable the intra smoothing process performed in steps S305 and S307 may be performed after preparing SPS having a corresponding flag value after the encoded slice data is generated.
このように、実施例1では、スライス単位でイントラスムージング処理の有効・無効を切り替えることができる。イントラスムージング処理の有効・無効を記録開始時点の撮影モードで一意に決定するので、迅速且つ容易にイントラスムージング処理の有効・無効を決定できる。 As described above, in the first embodiment, the validity / invalidity of the intra smoothing process can be switched in units of slices. Since the validity / invalidity of the intra-smoothing process is uniquely determined by the shooting mode at the start of recording, the validity / invalidity of the intra-smoothing process can be determined quickly and easily.
固定設置した定点撮影の状況にあるかを検出する撮影状態取得手段を設け、固定設置されている場合にはイントラスムージング処理の有効化するようにした実施例2を説明する。 A description will be given of a second embodiment in which shooting state acquisition means for detecting whether or not fixed-point shooting is in a fixed installation is provided, and in the case of fixed installation, the intra smoothing process is validated.
図5は、実施例2を採用する撮像装置の概略構成ブロック図を示す。実施例1と同じ構成要素には同じ符号を付してある。実施例1に対して、加速度センサ511、GPSセンサ512、三脚接点検知部513及び撮影状態取得部514が追加され、これら要素により、撮像装置本体が固定設置されているかどうかを判定する。イントラスムージング処理決定部504は、撮影モード設定部102からの撮影モード情報に加えて、撮影状態取得部514の出力にも従い、符号化部105のイントラスムージング処理の有効・無効を制御する。
FIG. 5 is a block diagram illustrating a schematic configuration of an imaging apparatus that employs the second embodiment. The same components as those in the first embodiment are denoted by the same reference numerals. An
加速度センサ511は、MEMS(Micro Electro Mechanical Systems)技術を用いた作成された小型の加速度計であり、地球の重力加速度を計測して撮像装置の傾きを検出する機能を有する。加速度センサ511は、取得した加速度情報を撮影状態取得部514に出力する。
The
GPSセンサ512は、GPS(Global Positioning System)衛星からの電波を受信して、当該撮影装置が地球上のどこにいるかを正確に割り出す機能を有する。GPSセンサ512は、取得した3次元位置座標情報(緯度、経度、高度)を撮影状態取得部514に出力する。
The
三脚接点検知部513は三脚着脱検知手段として、撮像装置の底面に設けられる三脚取り付け用ネジ穴(図6(a)参照)への三脚または一脚の取り付け(図6(b),(c)参照)を検知する圧電スイッチからなる。三脚接点検知部513は、三脚取り付けを検知すると、検知信号を撮影状態取得部514に出力する。図7(a)は、図5に示す撮像装置の底面図を示す。図7(b)は、三脚を取り付けた状態の正面図を示し、図7(c)は一脚を取り付けた状態の正面図を示す。
The tripod
撮影状態取得部514は、加速度センサ511、GPSセンサ512および三脚接点検知部513の出力に従い、当該撮影装置が固定設置状態にあるかどうかを判断し、その判断結果をイントラスムージング処理決定部504に供給する。例えば、加速度センサ511の出力値として、いずれの空間軸方向についても加速度が発生していない場合に、撮影状態取得部514は、固定設置状態であると判断する。GPSセンサ512の出力値が所定の時間間隔で複数回取得した位置情報に差分が無い場合、撮影状態取得部514は、固定設置状態であると判断する。また、三脚接点検知部513の出力値が、三脚(または一脚)の装着を示す場合に、撮影状態取得部514は、固定設置状態と判断する。
The imaging
なお、固定設置状態か否かを判断するのに、加速度センサ511、GPSセンサ512および三脚接点検知部513は固定設置状態の判定に必要な手段の例示であり、必要な範囲でこれらのうちの何れか1以上を有すれば良い。また、メニュー操作によりユーザが固定設置状態を、撮影モード設定部102を介してイントラスムージング処理決定部504に通知するようにしてもよい。
Note that the
図7は、図5に示す実施例2の動作フローチャートを示す。図7を参照して、実施例2における、設置状態判定を用いたイントラスムージング処理判定処理を説明する。 FIG. 7 shows an operation flowchart of the second embodiment shown in FIG. With reference to FIG. 7, the intra smoothing process determination process using the installation state determination in the second embodiment will be described.
ステップS701,S702,S703の処理はそれぞれ、ステップS301,S302,S303の処理と同様であるので、説明を省略する。星空インターバルモードである場合(S703でTRUE)、S704に移行する。星空インターバルモードでない場合(S703でFALSE)、イントラスムージング処理決定部504は、符号化部105へのイントラスムージング処理有効化信号をオフまたは低にして、S708に移行する。
Since the processes of steps S701, S702, and S703 are the same as the processes of steps S301, S302, and S303, respectively, description thereof is omitted. When it is the starry sky interval mode (TRUE in S703), the process proceeds to S704. If it is not the starry sky interval mode (FALSE in S703), the intra smoothing
S704で、イントラスムージング処理決定部504は、撮影状態取得部514から撮像装置の設置状況と設置姿勢情報を取得する。S705で、イントラスムージング処理決定部504は、固定撮影状態、則ちイントラスムージング処理に適したグラデーション画像を含む画像データを長時間記録するシチュエーションに適した固定設置状態にあるかどうかを判定する。固定設置状態にある場合(S705でTRUE)、イントラスムージング処理決定部104は、イントラスムージング処理有効化信号(オンまたは高)を符号化部105に出力し、S706に移行する。固定設置状態にない場合(S705でFALSE)、イントラスムージング処理決定部504は、符号化部105へのイントラスムージング処理有効化信号をオフまたは低にして、S708に移行する。
In step S <b> 704, the intra smoothing
ステップS706,S707,S708,S709の処理はそれぞれ、S304,S305,S306,S307の処理と同じであるので、詳細な説明を省略する。 Since the processes in steps S706, S707, S708, and S709 are the same as the processes in S304, S305, S306, and S307, respectively, detailed description thereof is omitted.
撮像装置が固定設定状態にない場合、符号化部には、グラデーション画像が連続的に入力する可能性は低いと考えられる。そこで、本実施例では、撮影モードにかかわりなく、固定設定状態のときには一律にイントラスムージング処理を無効にすることで、グラデーション画像判定の処理負担を軽減している。 When the imaging apparatus is not in the fixed setting state, it is considered that the possibility that the gradation image is continuously input to the encoding unit is low. Therefore, in this embodiment, the processing load for gradation image determination is reduced by uniformly disabling the intra smoothing process in the fixed setting state regardless of the shooting mode.
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。 The present invention supplies a program that realizes one or more functions of the above-described embodiments to a system or apparatus via a network or a storage medium, and one or more processors in a computer of the system or apparatus read and execute the program This process can be realized. It can also be realized by a circuit (for example, ASIC) that realizes one or more functions.
Claims (9)
前記撮像手段の出力画像を符号化ブロック単位で符号化する符号化手段であって、画面内予測モードにおいて符号化ブロック境界の参照画素を線形補間するモードを有する符号化手段と、
前記符号化手段が符号化対象ブロック画像に対して前記画面内予測モードでの参照画像の線形補間処理の適用を決定するイントラスムージング処理決定手段であって、前記撮像手段に設定される撮影モードがグラデーション画像を所定以上に含む可能性のある所定撮影モードである場合に、前記線形補間の有効化を前記符号化手段に指示するイントラスムージング処理決定手段
とを有することを特徴とする画像符号化装置。 An image encoding device that encodes an imaging unit that images a subject according to a set shooting mode,
Encoding means for encoding an output image of the imaging means in units of encoding blocks, and encoding means having a mode for linearly interpolating reference pixels at the encoding block boundary in the intra prediction mode;
The encoding unit is an intra-smoothing process determining unit that determines application of linear interpolation processing of a reference image in the intra prediction mode to an encoding target block image, and a shooting mode set in the imaging unit is An image encoding apparatus comprising: an intra-smoothing process determining unit that instructs the encoding unit to validate the linear interpolation in a predetermined shooting mode that may include a gradation image more than a predetermined level. .
前記イントラスムージング処理決定手段は、前記撮像手段に設定される撮影モードがグラデーション画像を所定以上に含む可能性のある所定撮影モードであり、前記撮影状態取得手段により取得される前記設置状態が固定設置状態を示す場合に、前記線形補間の有効化を前記符号化手段に指示する
ことを特徴とする請求項1または2に記載の画像符号化装置。 Furthermore, it has an imaging state acquisition means for acquiring an installation state of the imaging means,
The intra smoothing determination unit is a predetermined shooting mode in which a shooting mode set in the imaging unit may include a gradation image more than a predetermined value, and the installation state acquired by the shooting state acquisition unit is fixed installation 3. The image encoding apparatus according to claim 1, wherein when the status is indicated, the encoding unit is instructed to enable the linear interpolation. 4.
前記撮像手段に設定される撮影モードがグラデーション画像を所定以上に含む可能性のある所定撮影モードである場合に、画面内予測モードにおいて符号化ブロック境界の参照画素の線形補間を有効化するイントラスムージング処理決定ステップと、
前記撮像手段の前記出力画像を符号化ブロック単位で符号化する符号化ステップであって、前記線形補間の有効化に従い、前記画面内予測モードにおいて符号化ブロックの境界の参照画素を線形補間する符号化ステップ
とを有することを特徴とする画像符号化方法。 An image encoding method for encoding an output image of an imaging unit that images a subject according to a set shooting mode,
Intra-smoothing that enables linear interpolation of reference pixels at the coding block boundary in the intra prediction mode when the shooting mode set in the imaging means is a predetermined shooting mode that may include a gradation image more than a predetermined value. A processing decision step;
A coding step for coding the output image of the imaging unit in coding block units, wherein the interpolation is performed by linearly interpolating reference pixels at the boundary of the coding block in the intra prediction mode according to the validation of the linear interpolation; And a coding step.
前記撮像手段の出力画像を符号化ブロック単位で符号化する符号化手段であって、画面内予測モードにおいて符号化ブロック境界の参照画素を線形補間するモードを有する符号化手段と、
前記符号化手段が符号化対象ブロック画像に対して前記画面内予測モードでの参照画像の線形補間処理の適用を決定するイントラスムージング処理決定手段であって、前記撮像手段に設定される撮影モードがグラデーション画像を所定以上に含む可能性のある所定撮影モードである場合に、前記線形補間の有効化を前記符号化手段に指示するイントラスムージング処理決定手段
として機能させるためのコンピュータプログラム。 A computer program for encoding imaging means for imaging a subject according to a set shooting mode, the computer comprising:
Encoding means for encoding an output image of the imaging means in units of encoding blocks, and encoding means having a mode for linearly interpolating reference pixels at the encoding block boundary in the intra prediction mode;
The encoding unit is an intra-smoothing process determining unit that determines application of linear interpolation processing of a reference image in the intra prediction mode to an encoding target block image, and a shooting mode set in the imaging unit is A computer program for functioning as an intra-smoothing process determining unit that instructs the encoding unit to validate the linear interpolation in a predetermined shooting mode that may include more than a predetermined gradation image.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016183835A JP2018050151A (en) | 2016-09-21 | 2016-09-21 | Image coding device, image coding method, and computer program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016183835A JP2018050151A (en) | 2016-09-21 | 2016-09-21 | Image coding device, image coding method, and computer program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018050151A true JP2018050151A (en) | 2018-03-29 |
Family
ID=61767770
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016183835A Pending JP2018050151A (en) | 2016-09-21 | 2016-09-21 | Image coding device, image coding method, and computer program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018050151A (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020009400A1 (en) * | 2018-07-02 | 2020-01-09 | 엘지전자 주식회사 | Method and apparatus for processing video signal by using intra-prediction |
WO2020013583A1 (en) * | 2018-07-13 | 2020-01-16 | 엘지전자 주식회사 | Image decoding method and device according to intra prediction in image coding system |
WO2020106186A1 (en) * | 2018-11-19 | 2020-05-28 | Huawei Technologies Co., Ltd. | Method and apparatus for hierarchical signaling of enabling and disabling prediction mechanisms for video coding |
-
2016
- 2016-09-21 JP JP2016183835A patent/JP2018050151A/en active Pending
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020009400A1 (en) * | 2018-07-02 | 2020-01-09 | 엘지전자 주식회사 | Method and apparatus for processing video signal by using intra-prediction |
US11438579B2 (en) | 2018-07-02 | 2022-09-06 | Lg Electronics Inc. | Method and apparatus for processing video signal by using intra-prediction |
WO2020013583A1 (en) * | 2018-07-13 | 2020-01-16 | 엘지전자 주식회사 | Image decoding method and device according to intra prediction in image coding system |
WO2020106186A1 (en) * | 2018-11-19 | 2020-05-28 | Huawei Technologies Co., Ltd. | Method and apparatus for hierarchical signaling of enabling and disabling prediction mechanisms for video coding |
US11438629B2 (en) | 2018-11-19 | 2022-09-06 | Huawei Technologies Co., Ltd. | Method and apparatus for hierarchical signaling of enabling and disabling prediction mechanisms for video coding |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7760953B2 (en) | Image processing apparatus and method, computer program, and storage medium with varied block shapes to execute motion detection | |
JP4799438B2 (en) | Image recording apparatus, image recording method, image encoding apparatus, and program | |
US8983217B2 (en) | Stereo image encoding apparatus, its method, and image pickup apparatus having stereo image encoding apparatus | |
KR101482896B1 (en) | Optimized deblocking filters | |
CN107646194B (en) | Apparatus and method for video motion compensation | |
JP6149707B2 (en) | Moving picture coding apparatus, moving picture coding method, moving picture coding program, and moving picture photographing apparatus | |
WO2017060951A1 (en) | Image compression apparatus, image decoding apparatus, and image processing method | |
JP2018050151A (en) | Image coding device, image coding method, and computer program | |
KR20150135457A (en) | Method for encoding a plurality of input images and storage medium and device for storing program | |
US9438925B2 (en) | Video encoder with block merging and methods for use therewith | |
JP2014075698A (en) | Image encoder, image encoding method and program | |
KR20140026397A (en) | Method for reconstructing and coding an image block | |
JP5165084B2 (en) | Image encoding device | |
US20160057414A1 (en) | Method for encoding a plurality of input images, and storage medium having program stored thereon and apparatus | |
JP4564856B2 (en) | Image encoding apparatus and imaging apparatus | |
JP2018191136A (en) | Encoding device, encoding method and program | |
CN111373749B (en) | Method and apparatus for low complexity bi-directional intra prediction in video encoding and decoding | |
JP2012222460A (en) | Moving image encoding apparatus, moving image encoding method, and program | |
WO2023204848A1 (en) | Mmvd candidate refinement methods | |
JP2018050150A (en) | Image coding device, image coding method, and computer program | |
JP2014179921A (en) | Dynamic image encoder, control method thereof, and program | |
JP6016484B2 (en) | Encoder | |
KR100814715B1 (en) | Moving-picture coding apparatus and method | |
JP2019009605A (en) | Image processing device, image processing method, and program | |
US20140119448A1 (en) | Moving image encoding apparatus, image capturing apparatus, and method of controlling moving image encoding apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20180227 |