JP2014082603A - Image processor - Google Patents
Image processor Download PDFInfo
- Publication number
- JP2014082603A JP2014082603A JP2012228453A JP2012228453A JP2014082603A JP 2014082603 A JP2014082603 A JP 2014082603A JP 2012228453 A JP2012228453 A JP 2012228453A JP 2012228453 A JP2012228453 A JP 2012228453A JP 2014082603 A JP2014082603 A JP 2014082603A
- Authority
- JP
- Japan
- Prior art keywords
- data
- video
- video data
- encoding
- encoded
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
Description
この発明は、画像処理技術に関し、特に、映像を高画質化する技術に関する。 The present invention relates to an image processing technique, and more particularly to a technique for improving the image quality of a video.
従来のCRTに代わって液晶ディスプレイが急速に普及している。液晶ディスプレイでは映像の表示方式としてプログレッシブ方式が採用されている。テレビ放送の映像信号やDVD−Videoの映像信号はインタレース方式に準拠したものであるため、液晶ディスプレイを表示器として用いた表示装置の中には、インタレース方式の映像を高い画質で表示することを可能にする高画質映像処理回路を有しているものがある。この種の高画質映像処理回路における処理の一例としては、動き適応型IP変換や動き適応型ノイズリダクションが挙げられる。 Liquid crystal displays are rapidly becoming popular in place of conventional CRTs. The liquid crystal display employs a progressive method as a video display method. Since TV broadcast video signals and DVD-Video video signals are compliant with the interlace method, a display device using a liquid crystal display as a display device displays an interlaced image with high image quality. Some have a high-quality video processing circuit that makes this possible. Examples of processing in this type of high-quality video processing circuit include motion adaptive IP conversion and motion adaptive noise reduction.
動き適応型IP変換とは、インタレース方式の映像データをプログレッシブ方式の映像データに変換するIP変換の1つである。動き適応型IP変換では、変換対象のフィールドとその前後のフィールドに亙る被写体の動きの大きさが検出され、動きが大きければ前後のフィールドの情報を利用したIP変換が行われる一方、動きが小さければ変換対象のフィールドの情報のみを利用したIP変換が行われる。なお、IP変換の詳細については特許文献1を参照されたい。動き適応型ノイズリダクションにおいても同様に被写体の動きの大きさに応じて処理が切り替えられる。このように、動き適応型IP変換や動き適応型ノイズリダクションでは、被写体の動きの大きさを求めるために処理対象のフィールドの前後のフィールドを参照する必要があるため、被写体の動きの大きさの特定の際に参照するフィールド数分ずつ各フィールドの映像を表す映像データをメモリに保持(以下、「映像のキャプチャ」という)しつつ、それらの処理を実行することが必要となる。
Motion adaptive IP conversion is one type of IP conversion that converts interlaced video data into progressive video data. In motion-adaptive IP conversion, the size of a subject's movement over the field to be converted and the fields before and after the field to be converted is detected. If the movement is large, IP conversion is performed using information in the preceding and following fields, but the movement is small. For example, IP conversion using only the information of the conversion target field is performed. Refer to
高画質映像処理の対象となる映像が高解像度化すると、映像のキャプチャ先のメモリとして大容量のものを用いることが必要となり、映像のキャプチャ先となるメモリにアクセスする際の帯域幅(すなわち、メモリからデータを読み出す際、およびメモリにデータを書き込む際の帯域幅)も十分に大きくする必要がある。また、近年では、複数種の映像の各々に高画質映像処理を施しつつPiP(Picture in picture)方式或いはPoP(Picture on
picture)方式で1つの映像に合成して表示装置に表示させることも一般に行われており、合成する映像数が増加すると、映像のキャプチャ先のメモリの記憶容量や帯域幅をさらに大きくすることが必要となる。しかし、このようなメモリの大容量化や広帯域化に対応するには画像処理装置の基板設計に高度かつ高価な技術が必要となる、といった問題がある。
When the resolution of a high-quality video processing target video is increased, it is necessary to use a large-capacity video capture destination memory, and the bandwidth for accessing the video capture destination memory (that is, It is necessary to sufficiently increase the bandwidth when reading data from the memory and when writing data to the memory. In recent years, the PiP (Picture in picture) method or PoP (Picture on
It is also common to combine images into a single image and display them on a display device. When the number of images to be combined increases, the storage capacity and bandwidth of the video capture destination memory can be further increased. Necessary. However, in order to cope with such an increase in memory capacity and bandwidth, there is a problem that advanced and expensive technology is required for designing the substrate of the image processing apparatus.
本発明は上記課題に鑑みて為されたものであり、高画質映像処理などの画像処理の対象の映像データをバッファに格納する際に、バッファの容量をオーバーして上書きをしてしまうなどの破綻が発生することを回避しつつ、当該バッファの記憶容量および当該バッファにアクセスする際の帯域幅を削減することを可能にする技術を提供することを目的とする。 The present invention has been made in view of the above problems, and when storing video data subject to image processing such as high-quality video processing in a buffer, the buffer capacity is overwritten and overwritten. It is an object of the present invention to provide a technique capable of reducing the storage capacity of the buffer and the bandwidth when accessing the buffer while avoiding the occurrence of a failure.
上記課題を解決するために本発明は、処理対象の映像データをラスタスキャン方向にエンコードして映像キャプチャ用メモリに書き込むエンコード部と、前記映像キャプチャ用メモリから画像処理に必要となる画面分のデータを読み出してデコードし、各画面の映像データを出力するデコード部と、前記デコード部から出力される映像データに画像処理を施して出力する画像処理部と、を備え、前記処理対象の1画面分の映像データをラスタスキャン方向に複数に分割して得られるデータを分割データとしたとき、前記エンコード部は、各分割データをエンコードする際に、1つ手前の分割データまでのエンコード結果から1画面分の映像データをエンコードした場合のデータサイズを推定し、当該データサイズと前記映像キャプチャ用メモリの空き容量とに基づいて当該分割データをエンコードする際のパラメータを調整する圧縮率調整手段を含んでいることを特徴とする画像処理装置を提供する。なお、上記画像処理部による画像処理の具体例としては、動き適応型IP変換や動き適応型ノイズリダクションなどの高画質映像処理が挙げられ、1画面分の映像データとは1フィールドの映像を表す映像データ、或いは1フレームの映像を表す映像データのことを言う。 In order to solve the above-described problems, the present invention provides an encoding unit that encodes video data to be processed in a raster scan direction and writes it in a video capture memory, and data for a screen required for image processing from the video capture memory. A decoding unit that reads out and decodes the video data of each screen, and an image processing unit that performs image processing on the video data output from the decoding unit and outputs the processed video data. When the data obtained by dividing the video data into a plurality of parts in the raster scan direction is divided data, the encoding unit encodes each divided data into one screen from the encoding result up to the previous divided data. Estimate the data size when video data for a minute is encoded, and the data size and the video capture memo It provides an image processing apparatus according to claim containing a compression ratio adjusting means for adjusting a parameter for encoding the divided data based on the free space of. Specific examples of the image processing by the image processing unit include high-quality video processing such as motion adaptive IP conversion and motion adaptive noise reduction, and one screen of video data represents one field of video. Video data or video data representing one frame of video.
本発明によれば、画像処理の処理対象となる映像データはエンコード部によるエンコードを経て映像キャプチャ用メモリに格納されるため、当該メモリの容量および当該メモリにアクセスする際の帯域幅を、エンコードを行わない従来技術に比較して小さくすることができる。また、映像キャプチャ用メモリとして従来と同程度の容量を有するものを用いる場合には、当該メモリに格納可能なフィールド数或いはフレーム数が従来よりも多くなるため、高画質映像処理における参照フィールド数或いは参照フレーム数を従来よりも増やし、より緻密な高画質映像処理を行うことが可能になる。 According to the present invention, since the video data to be processed in the image processing is stored in the video capture memory after being encoded by the encoding unit, the capacity of the memory and the bandwidth when accessing the memory are encoded. The size can be reduced as compared with the conventional technique which is not performed. In addition, when a video capture memory having the same capacity as the conventional one is used, the number of fields or frames that can be stored in the memory is larger than the conventional one. It is possible to increase the number of reference frames as compared with the conventional case and perform more precise high-quality video processing.
また、本発明においては、分割データのエンコードを行う毎に、1つ手前の分割データまでのエンコード結果から1画面分の映像データをエンコードした場合のデータサイズが推定され、推定されたデータサイズが映像キャプチャ用メモリの空き容量を上回っている場合には、圧縮効率が高くなるように(すなわち、エンコード後のデータサイズがより小さくなるように)当該分割データをエンコードする際のパラメータが調整される。このため、映像キャプチャ用メモリへのエンコードデータの書き込みの際に、オーバーフローに伴う上書きなどの破綻が発生することを確実に回避できる。 In the present invention, each time encoding of divided data is performed, the data size when video data for one screen is encoded is estimated from the encoding result up to the previous divided data, and the estimated data size is When the free space of the video capture memory is exceeded, the parameters for encoding the divided data are adjusted so that the compression efficiency becomes high (that is, the data size after encoding becomes smaller). . For this reason, when writing the encoded data to the video capture memory, it is possible to reliably avoid the occurrence of a failure such as overwriting due to the overflow.
より好ましい態様においては、エンコード部は、各分割データをエンコードする際に、推定された前記データサイズが予め定めた最大エンコードデータサイズを上回っている場合に、圧縮効率が高くなるように前記パラメータを調整する第2の圧縮率調整手段を含んでいることを特徴とする。詳細については実施形態の説明において明らかにするが、このような態様によれば、画像処理部による処理を経た映像データの表す映像に対して要求される画質が得られる範囲で目標最大圧縮率を定めておけば、オーバーフローに伴う上書きといった破綻の回避と画質の維持とを両立させることが可能になる。 In a more preferred aspect, the encoding unit sets the parameter so as to increase the compression efficiency when the estimated data size exceeds a predetermined maximum encoded data size when encoding each divided data. It includes a second compression rate adjusting means for adjusting. Although details will be clarified in the description of the embodiment, according to such an aspect, the target maximum compression rate is set within a range in which the required image quality can be obtained for the video represented by the video data processed by the image processing unit. If it is determined, it is possible to achieve both avoidance of failure such as overwriting due to overflow and maintenance of image quality.
以下、図面を参照しつつ本発明の実施形態を説明する。
図1は、本発明の画像処理装置の一実施形態の画像処理LSI1の構成例を示す図である。画像処理LSI1は、インタレース方式のアナログ映像信号やデジタル映像データに高画質映像処理を施し、高画質映像処理後の映像とOSDメニューとを合成して液晶ディスプレイなどの表示装置にリアルタイム表示させるものである。図1に示すように、画像処理LSI1は、アナログフロントエンド(図1では、「AFE」と表記、以下、本明細書でも同様)10、ビデオデコーダ20、外部映像データ用エンコーダ30、外部映像データ用デコーダ40、高画質映像処理部50、補正処理部60、OSD描画部70、表示制御部80、ホストCPU−I/F90、SDRAM−I/F100、ROM−I/F110、および共有ワークメモリ120を含んでいる。ホストCPU−I/F90には、画像処理LSIの作動制御を行うホストCPUが接続される。SDRAM−I/F100には、SDRAM等の外部メモリが接続される。そして、ROM−I/F110には、OSDメニューを構成するスプライト等のパターンデータを格納したパターンROMが接続される。共有ワークメモリ120は、高画質映像処理部50による高画質映像処理や補正処理部60による補正処理を経た外部映像の映像データやOSD描画部により生成されたOSDメニューの映像データを格納するワークメモリとして機能する。
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
FIG. 1 is a diagram illustrating a configuration example of an
AFE10には、例えばテレビ放送の映像信号やDVD−Videoの映像信号、ビデオカメラの出力映像信号などのインタレース方式のアナログ映像信号が与えられる。AFE10は、与えられたアナログ映像信号にA/D変換を施し、変換結果であるデジタル形式の映像データ(すなわち、インタレース方式における各フィールドの映像データ)をビデオデコーダ20に与える。ビデオデコーダ20は、AFE10の出力する映像データから、同期信号、輝度成分、色成分を分離し、各々を表すデジタルデータを外部映像データ用エンコーダ30に与える。
For example, an interlaced analog video signal such as a video signal of a television broadcast, a video signal of a DVD-Video, or an output video signal of a video camera is given to the
外部映像データ用エンコーダ30には、ビデオデコーダ20から与えられる映像データの他に、この映像データの表す映像と合成される映像を表すデジタル映像データ(例えば、ITU601、ITU656フォーマットの映像データ)が与えられる。外部映像データ用エンコーダ30は、複数チャネルの映像データの各々を非可逆圧縮するエンコード処理を時分割方式で実行し、各映像データのエンコード結果(以下、エンコードデータ)をSDRAM−I/F100に接続された外部メモリへ書き込む。外部映像データ用エンコーダ30の入力段には、時分割処理をスムーズに行うために、チャネル毎にバッファが設けられている。
In addition to the video data supplied from the
外部映像データ用デコーダ40は、画像処理LSI1における映像の表示タイミング(例えば、表示制御部80により指示されるタイミング)にしたがってエンコードデータを外部メモリから読み出してデコードし、輝度(Y)、色(Cb、Cr)データとして高画質映像処理部50に与える。つまり、本実施形態では、SDRAM−I/F100に接続された外部メモリが「映像キャプチャ用のメモリ」として用いられる。本実施形態では、外部メモリを「映像キャプチャ用のメモリ」として用いるが、共有ワークメモリ120を映像キャプチャ用のメモリとして用いても勿論良く、両メモリの何れを映像キャプチャ用メモリとして用いるのかについては、映像入力のチャネル数、各映像の解像度等に応じて定めれば良い。
The external
外部映像データ用エンコーダ30によるエンコード処理、および外部映像データ用デコーダ40によるデコード処理(以下、両者をまとめて「コーデック処理」と呼ぶ場合がある)は、ラスタスキャン方向に複数ライン分ずつ分割して行われる。このため、外部映像データ用デコーダ40の後段の各部(高画質映像処理部50、補正処理部60、OSD描画部70および表示制御部80)における処理についても、少量のメモリ(すなわち、複数ライン分のメモリ)でラスタ単位に実行することができる。
The encoding process by the external
高画質映像処理部50は、外部映像データ用デコーダ40から与えられる映像データに、動き適応型IP変換、動き適応型ノイズリダクション等の高画質映像処理を施して補正処理部60に与える。補正処理部60は、高画質映像処理部50による処理を経た映像データに対して、拡大縮小処理、回転処理、或いはカメラ映像の歪み補正などの各種補正処理を施し、外部映像レイヤの映像データとして共有ワークメモリ120に書き込む。OSD描画部70は、外部映像に重ねて表示装置に表示させるメニューや付属情報の映像を表す映像データをラスタ単位で生成し、OSDレイヤの映像データとして共有ワークメモリ120に書き込む。表示制御部80は、共有ワークメモリ120から各レイヤの映像データを読み出し、ラスタ(複数ラインのバッファ)単位で図2(a)のように重ね合わせて図2(b)に示すレイアウトの1画面分の映像データを生成し表示装置(図示略)へ出力する。なお、各レイヤを重ねる際の優先順位についてはユーザに自由に指定させるようにすれば良い。
以上が画像処理LSI1の構成である。
The high quality
The above is the configuration of the
本実施形態の特徴は、高画質映像処理の処理対象となる映像データをエンコードし、そのエンコード結果のエンコードデータを映像キャプチャ用メモリ(本実施形態では、外部メモリ)へ書き込む外部映像データ用エンコーダ30と、映像キャプチャ用メモリに記憶されたエンコードデータを読み出してデコードし、デコード結果の映像データを高画質映像処理部50に与える外部映像データ用デコーダ40を設けた点にある。このように、高画質映像処理の処理対象となる映像データにエンコードを施して映像キャプチャ用メモリへ格納するようにしたため、本実施形態によれば、エンコードを施さずに映像のキャプチャを行う従来技術に比較して映像キャプチャ用のメモリの容量が少なくて済み、また、映像キャプチャ用のメモリにアクセスする際の帯域幅(本実施形態では、SDRAM−I/F100を介したデータ伝送の帯域幅)も従来に比較して狭くて済む。加えて、本実施形態では、外部映像データ用エンコーダ30に本実施形態の特徴を顕著に示す処理を実行させることにより、高画質映像処理の処理対象の映像のキャプチャを行う際にオーバーフローに伴う上書きなどの破綻が発生することを回避することができる。以下、本実施形態の特徴を顕著に示す外部映像データ用エンコーダ30を中心に説明する。
A feature of the present embodiment is that an external
本実施形態では、映像データのコーデック処理をリアルタイムに遅延なく行うことが必要となるため、外部映像データ用エンコーダ30におけるエンコードアルゴリズムとして1パスのエンコードアルゴリズム(すなわち、エンコード対象の映像データの解析処理と圧縮処理とを同時並列に進めるエンコードアルゴリズム)が採用されている。このエンコードアルゴリズムによる圧縮率r(エンコード結果のデータサイズをエンコード前の映像データのデータサイズで除算した値×100)は、MPEG等における場合と同様に量子化パラメータqPに応じて定まる。具体的には、量子化パラメータqPが大きいほど圧縮率rは低く(エンコード結果のデータサイズは小さく、すなわち、圧縮効率は高く)なり、エンコードデータをデコードして得られる映像データの表す映像の画質は低下する。なお、画質を評価するための指標値としては、PSNR(ピーク信号対雑音比)を用いることが考えられる。
In this embodiment, since it is necessary to perform codec processing of video data in real time without delay, a one-pass encoding algorithm (that is, analysis processing of video data to be encoded) is used as an encoding algorithm in the external
本実施形態では、画像処理LSI1による処理を経て表示装置に表示される映像に対して許容される画質に応じて、目標とする圧縮率rの最大値(以下、目標最大圧縮率)がユーザによって設定される。一方、外部映像データ用エンコーダ30では、この目標最大圧縮率に応じて量子化パラメータqPの初期値が設定される。換言すれば、外部映像データ用エンコーダ30は、目標最大圧縮率の設定を介して量子化パラメータの初期値を可変に設定できるように構成されている。目標最大圧縮率の設定を介して量子化パラメータの初期値を可変に設定する構成としては、目標最大圧縮率として想定し得る複数種の値の各々に対応付けて、量子化パラメータqPの初期値を書き込んだテーブルを外部映像データ用エンコーダ30に記憶させておき、ユーザにより設定された目標最大圧縮率に応じた量子化パラメータを当該テーブルから読み出す処理を外部映像データ用エンコーダ30に実行させる構成が考えられる。
In the present embodiment, the maximum value of the target compression rate r (hereinafter referred to as the target maximum compression rate) is set by the user according to the image quality allowed for the video displayed on the display device through the processing by the
また、外部映像データ用エンコーダ30は、目標最大圧縮率に基づいて、1チャネル分の映像データの記憶に必要な容量の記憶領域を外部メモリ内に確保する。本実施形態では、高画質映像処理の処理対象となる映像データはインタレース方式のアナログ映像信号にA/D変換を施して得られたものであり、外部映像データ用エンコーダ30は、1フィールドの目標最大エンコードデータサイズに応じた容量のバッファを1チャネル毎に8フィールド(すなわち、4フレーム)分ずつ確保する(図3参照)。これは、映像入力と合成後の映像出力が非同期であること、各映像データのエンコード結果(圧縮率)にバラツキが生じることを考慮したためである。なお、1フィールドの目標最大エンコードデータサイズ(バイト)は、目標最大圧縮率をr%、映像の水平解像度をX、垂直解像度をYとし、1画素の画素値が24ビットで表現されているとすると、以下の式(1)により算出される。
1フィールドの目標最大エンコードデータサイズ(バイト)
=X×Y/2×24×r/100/8・・・(1)
図3に示すように外部メモリ内に確保された各バッファへのエンコードデータの書き込みと同バッファからのエンコードデータの読み出しは非同期で行われ、これらバッファはFIFOとして機能する。
Further, the external
Target maximum encoded data size for 1 field (bytes)
= X × Y / 2 × 24 × r / 100/8 (1)
As shown in FIG. 3, the writing of encoded data to each buffer secured in the external memory and the reading of encoded data from the same buffer are performed asynchronously, and these buffers function as a FIFO.
映像データのエンコードでは、通常、前フィールドのエンコードデータサイズから次のフィールドをエンコードする際の量子化パラメータqPを決定し(最初のフィールドについては初期値を用いる)、1フィールド内では固定の量子化パラメータqPを用いてラスタスキャン方向に上から下へ映像データをエンコードすることが一般的である。本実施形態の外部映像データ用エンコーダ30においても、同様に量子化パラメータqPの制御が為される。これは、各フィールドの圧縮率が目標最大圧縮率からばらつかないようにするためである。図4は、ある映像をエンコードする際の量子化パラメータqP、圧縮率r、画質を示す指標値PSNRの関係を時間軸方向に示した図である。図4に示す例では、フィールドF1のエンコードの際に瞬間的に圧縮率rが目標最大圧縮率を超えているため、次のフィールドF2のエンコードでは圧縮率rが低下するように量子化パラメータqPが引き上げられている。逆にフィールドF3のエンコードでは圧縮率rが目標最大圧縮率を下回っているため、次のフィールドF4のエンコードでは圧縮率rが目標最大圧縮率に近づくように、量子化パラメータqPが引き下げられている。
In the encoding of video data, a quantization parameter qP for encoding the next field is usually determined from the encoded data size of the previous field (initial value is used for the first field). It is common to encode video data from top to bottom in the raster scan direction using the parameter qP. In the external
しかしながら、量子化パラメータqPをフィールド単位で固定とする態様では、処理対象の映像にスノーノイズのような圧縮しにくい映像のフィールドが含まれていた場合に、当該フィールドにおける圧縮率が目標最大圧縮率をはるかに上回り、FIFO残量によってはオーバーフローに伴う上書きなどの破綻が発生する可能性がある。このような破綻の発生を回避するため、本実施形態の外部映像データ用エンコーダ30には、量子化パラメータqPをよりきめ細やかに調整するための(換言すれば、圧縮率をきめ細やかに調整するための)第1圧縮率調整手段30Aと第2圧縮率調整手段30Bとが設けられている。
However, in the aspect in which the quantization parameter qP is fixed in units of fields, when the video to be processed includes a field of video that is difficult to compress, such as snow noise, the compression rate in the field is the target maximum compression rate. There is a possibility that failure such as overwriting accompanying overflow will occur depending on the remaining FIFO. In order to avoid the occurrence of such a failure, the external
前述したように、外部映像データ用エンコーダ30におけるエンコード処理は、1フィールド分の映像データをラスタスキャン方向に複数に分割して得られる分割データ毎に行われる。第1圧縮率調整手段30Aは、分割データのエンコードを行う際に、1つ手前の分割データまでのエンコード結果のデータサイズから1フィールド分の映像データをエンコードした場合のエンコードデータのデータサイズを推定し、推定されたデータサイズがFIFOの空き容量を上回る場合には、より低い圧縮率で当該分割データがエンコードされるように量子化パラメータqPを調整する。つまり、第1圧縮率調整手段30Aは、FIFO残量が足りなくなると判断した場合には、1フィールド内でも段階的に量子化パラメータを引き上げる。量子化パラメータqPが引き上げられれば圧縮率rは低下し(図4参照)、FIFOのオーバーフローが回避される。
As described above, the encoding process in the external
図5は、1フィールドの映像データを垂直方向に4等分してエンコードする場合の第1圧縮率調整手段30Aの動作を説明するための図である。量子化パラメータqPを調整するか否かの判断は、図5に示すように、分割データのエンコード結果のFIFOへ書き込みを行う毎に実行される。より詳細に説明すると、第1圧縮率調整手段30Aは、分割データのエンコード結果のFIFOへの書き込みを行う毎に、1フィールド分の映像データをエンコードした場合のエンコードデータのデータサイズを、それまでにエンコードした分割データのエンコードデータのデータサイズに基づいて推定し、推定されたデータサイズがその1フィールドのエンコード開始時のFIFOの空き容量(FIFOの容量)を上回っている場合には、量子化パラメータを所定量だけ(或いは、所定の割合で)引き上げる。
FIG. 5 is a diagram for explaining the operation of the first compression
例えば、図5の領域Aに対応する分割データのエンコード結果のFIFOへの書き込みを行った時点では、第1圧縮率調整手段30Aは、当該エンコード結果のデータサイズE1に係数K1を乗算して得られる値を1フィールド分の映像データをエンコードした場合のエンコードデータのデータサイズの推定値としてFIFOの空き容量との比較を行う。同様に、図5の領域Bに対応する分割データのエンコード結果のFIFOへの書き込みを行った時点では、第1圧縮率調整手段30Aは、当該エンコード結果のデータサイズと領域Aに対応するエンコードデータのデータサイズの和E12に係数K2を乗算して得られる値を、1フィールド分の映像データをエンコードした場合のエンコードデータのデータサイズの推定値としてFIFOの空き容量との比較を行う。そして、図5の領域Cに対応する分割データのエンコード結果のFIFOへの書き込みを行った時点では、第1圧縮率調整手段30Aは、当該エンコード結果のデータサイズと領域Aおよび領域Bの各々に対応するエンコードデータのサイズの和E123に係数K3を乗算して得られる値を、1フィールド分の映像データをエンコードした場合のエンコードデータのデータサイズの推定値としてFIFOの空き容量との比較を行う。ここで、上記係数K1、K2、およびK3の各々としてどのような値を用いるかについては適宜実験を行って定めれば良い。具体的には、本実施形態ではエンコード対象の映像データはラスタスキャン方向に4等分されているのであるから、K1=4+安全係数(或いは、4×安全係数)、K2=4/2+安全係数(或いは、4/2×安全係数)、K3=4/3+安全係数(或いは、4/3×安全係数)とし、各安全係数を実験により定めるようにすれば良い。
For example, at the time when the encoding result of the divided data corresponding to the area A in FIG. 5 is written into the FIFO, the first compression
次いで、第2圧縮率調整手段30Bについて説明する。
前述したように、本実施形態では、第1圧縮率調整手段30Aの働きによって、映像データをFIFOへ書き込む際にオーバーフローに伴う上書きなどの破綻が発生することを回避することができる。しかし、ここで留意しなければならないのは、映像キャプチャ用メモリに十分な空きがあり、その空き容量との比較では量子化パラメータqP(換言すれば、圧縮率)の調整は必要ないと判断されるような場合であっても、目標最大圧縮率を上回る圧縮率でエンコードされたエンコードデータが映像キャプチャ用メモリに無制限に書き込まれるのは好ましくない、という点である。その理由は以下の通りである。目標最大圧縮率を上回る圧縮率でエンコードされたエンコードデータの書き込みが頻発すると、映像キャプチャ用メモリの空き容量は時間の経過とともに急速に減少する。映像キャプチャ用メモリの空き容量が時間の経過とともに急速に減少したとしても、本実施形態では、第1圧縮率調整手段30Aの働きによってオーバーフローに伴う上書きなどの破綻の発生は回避される。しかし、圧縮率が急速に引き下げられると、表示装置に表示される映像の画質が急速に低下してしまう。つまり、映像キャプチャ用メモリに十分な空きがあるからといって、目標最大圧縮率を上回る圧縮率でエンコードされたエンコードデータの書き込みを無制限に許容してしまうと、後続の映像の画質を大きく低下させてしまう虞がある。第2圧縮率調整手段30Bは、このような事態の発生を回避するために設けられている。
Next, the second compression
As described above, in the present embodiment, it is possible to avoid the occurrence of failure such as overwriting due to overflow when writing the video data to the FIFO by the function of the first compression
より詳細に説明すると、第2圧縮率調整手段30Bは、分割データのエンコードおよびFIFOへの書き込みを行う毎に、それまでにエンコードした分割データのエンコードデータのデータサイズがその分割データ分の最大エンコードデータサイズを上回るか否か判定し、上回る場合には、量子化パラメータを所定量だけ(或いは、所定の割合で)引き上げる。ここで、最大エンコードデータサイズとは、第2圧縮率調整手段30Bによる上記調整をすることで大きな画質低下を防ぐことが可能となるように予め設定された、1フィールド分のデータサイズである。
More specifically, each time the second compression
例えば、第2圧縮率調整手段30Bは、図6の領域Aに対応する分割データのエンコード結果のFIFOへの書き込みを行った時点では、当該エンコード結果のデータサイズE1と1フィールド分の目標最大エンコードデータサイズ(前掲式(1))に所定の係数M1を乗算することにより算出した領域Aに対応する最大エンコードデータサイズとを比較し、前者が後者を上回っている場合に量子化パラメータを引き上げる。なお、データサイズE1から1フィールドのエンコードデータサイズを推定し、推定されたエンコードデータサイズと1フィールド分の最大エンコードデータサイズとの大小比較を行い、前者のほうが大きい場合に量子化パラメータqPを引き上げるようにしても良い。また、図6の領域Bに対応する分割データのエンコード結果のFIFOへの書き込みを行った時点では、第2圧縮率調整手段30Bは、当該エンコード結果のデータサイズと領域Aに対応するエンコードデータのデータサイズの和E12と1フィールド分の目標最大エンコードデータサイズに所定の係数M2を乗算することにより算出された領域A+領域Bに対応する最大エンコードデータサイズとを比較し、前者が後者を上回っている場合に量子化パラメータを引き上げる。そして、図6の領域Cに対応する分割データのエンコード結果のFIFOへの書き込みを行った時点では、第2圧縮率調整手段30Bは、当該分割データのエンコード結果のデータサイズと領域Aおよび領域Bの各々に対応する各エンコードデータのデータサイズの和E123と1フィールド分の目標最大エンコードデータサイズに所定の係数M3を乗算することにより算出された領域A+領域B+領域Cに対応する最大エンコードデータサイズとを比較し、前者が後者を上回っている場合に量子化パラメータを引き上げる。
For example, the second compression
以上説明したように本実施形態の画像処理LSIにおいては、高画質映像処理の処理対象の映像データは外部映像データ用エンコーダ30によるエンコードを経て映像キャプチャ用メモリに格納される。このため、映像キャプチャ用メモリの役割を果たす外部メモリの容量および当該外部メモリにアクセスする際の帯域幅を、エンコードを行わない従来技術に比較して小さくすることができる。また、上記外部メモリとして従来と同程度の記憶容量を有するものを用いる場合には、その外部メモリに格納可能なエンコードデータの数が従来よりも多くなるため、高画質映像処理における参照フレーム数を従来よりも増やし、より緻密な高画質映像処理を行うことが可能になる。
As described above, in the image processing LSI of this embodiment, the video data to be processed in the high-quality video processing is stored in the video capture memory after being encoded by the external
加えて、本実施形態では、映像キャプチャ用メモリの空き容量に応じて量子化パラメータ(換言すれば、映像データの圧縮率)が調整されるため、外部メモリへのエンコードデータの書き込みの際にオーバーフローに伴う上書きなどの破綻が発生することもない。 In addition, in this embodiment, since the quantization parameter (in other words, the compression rate of the video data) is adjusted according to the free space of the video capture memory, overflow occurs when writing encoded data to the external memory. There will be no failure such as overwriting.
以上本発明の一実施形態について説明したが、この実施形態に以下の変形を加えても勿論良い。
(1)上記実施形態では、第1圧縮率調整手段30Aによる量子化パラメータの調整と第2圧縮率調整手段30Bによる量子化パラメータの調整とを行う場合について説明した。しかし、第1圧縮率調整手段30Aによる調整のみでも、映像キャプチャ用メモリへのエンコードデータの書き込みの際のメモリ破壊を回避することができるため、第2圧縮率調整手段30Bを省略しても良い。なお、上記実施形態では、量子化パラメータqPの調整により圧縮率の調整を実現したが、圧縮率を調整するためのパラメータについてはエンコードアルゴリズムとの関係で定めるようにすれば良い。
Although one embodiment of the present invention has been described above, it goes without saying that the following modifications may be added to this embodiment.
(1) In the above embodiment, the case where the quantization parameter adjustment by the first compression
(2)上記実施形態では、外部映像データ用デコーダ40の後段に高画質映像処理部50および補正処理部60からなる画像処理部を設けたが、他の種類の画像編集処理を実行する画像処理部を外部映像データ用デコーダ40の後段に設けても良い。また、上記実施形態では、インタレース方式における1フィールド分の映像データをラスタスキャン方向に複数に分割して得られる分割データ毎に圧縮率の調整を行う場合について説明したが、プログレッシブ方式における1フレーム分の映像データをラスタスキャン方向に複数に分割して得られる分割データ毎に圧縮率の調整を行っても良い。要は、1画面分の映像データをラスタスキャン方向に複数に分割して得られる分割データ毎に圧縮率の調整を行う態様であれば良い。
(2) In the above-described embodiment, the image processing unit including the high-quality
(3)上記実施形態では、高画質映像処理の対象となる映像をキャプチャするためのメモリとしてSDRAM−I/F100に接続された外部メモリを用いた。しかしながら、前述したように、共有ワークメモリ120(すなわち、画像処理LSI1に内蔵されたメモリ)に映像キャプチャ用メモリの役割を担わせても良く、このような態様によれば、外部メモリを省略して画像表示システム全体の製造コストを引き下げることが可能になる。
(3) In the above embodiment, an external memory connected to the SDRAM-I /
(4)DSP(Digital
Signal Processor)などのコンピュータを、外部映像データ用エンコーダ30、外部映像データ用デコーダ40、および外部映像データ用デコーダ40の出力する映像データに各種画像処理を施すための画像処理部として機能させるプログラムを提供しても良い。ここで、このようなプログラムの具体的な提供態様としては、CD−ROM(Compact Disk-Read Only Memory)などのコンピュータ読み取り可能な記録媒体に当該プログラムを記録して配布する態様やインターネットなどの電気通信回線経由のダウンロードにより配布する態様が考えられる。
(4) DSP (Digital
A program that causes a computer such as a signal processor to function as an image processing unit for performing various image processing on the video data output from the external
10…アナログフロントエンド、20…ビデオデコーダ、30…外部映像データ用エンコーダ、40…外部映像データ用デコーダ、50…高画質映像処理部、60…補正処理部、70…OSD描画部、80…表示制御部、90…ホストCPU−I/F、100…SDRAM−I/F、110…ROM−I/F、120…共有ワークメモリ。
DESCRIPTION OF
Claims (3)
前記映像キャプチャ用メモリから画像処理に必要となる画面分のデータを読み出してデコードし、各画面の映像データを出力するデコード部と、
前記デコード部から出力される映像データに画像処理を施して出力する画像処理部と、を備え、
前記処理対象の1画面分の映像データをラスタスキャン方向に複数に分割して得られるデータを分割データとしたとき、前記エンコード部は、
各分割データをエンコードする際に、1つ手前の分割データまでのエンコード結果から1画面分の映像データをエンコードした場合のデータサイズを推定し、当該データサイズと前記映像キャプチャ用メモリの空き容量とに基づいて当該分割データをエンコードする際のパラメータを調整する圧縮率調整手段を含んでいる
ことを特徴とする画像処理装置。 An encoding unit that encodes video data to be processed in a raster scan direction and writes it to a video capture memory;
Read and decode data for the screen necessary for image processing from the video capture memory, and output the video data of each screen;
An image processing unit that performs image processing on the video data output from the decoding unit and outputs the video data;
When the data obtained by dividing the video data for one screen to be processed into a plurality of parts in the raster scan direction is divided data, the encoding unit includes:
When each divided data is encoded, the data size when the video data for one screen is encoded is estimated from the encoding result up to the previous divided data, and the data size and the free space of the video capture memory are estimated. An image processing apparatus comprising: a compression ratio adjusting unit that adjusts a parameter for encoding the divided data based on the above.
各分割データをエンコードする際に、推定された前記データサイズが予め定めた最大エンコードデータサイズを上回っている場合に、圧縮効率が高くなるように前記パラメータを調整する第2の圧縮率調整手段を含んでいる
ことを特徴とする請求項1に記載の画像処理装置。 The encoding unit is
A second compression ratio adjusting unit configured to adjust the parameter so that the compression efficiency is increased when the estimated data size exceeds a predetermined maximum encoded data size when encoding each divided data; The image processing apparatus according to claim 1, further comprising:
前記画像処理部から出力される映像データと他の映像データとを合成して、表示器に表示させる1画面分の映像データを生成して出力する合成手段をさらに有することを特徴とする請求項1または請求項2に記載の画像処理装置。
The video data input to the encoding unit is data obtained by subjecting an analog video signal to A / D conversion,
The video data output from the image processing unit and other video data are combined to generate and output video data for one screen to be displayed on a display device. The image processing apparatus according to claim 1 or 2.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012228453A JP6024374B2 (en) | 2012-10-15 | 2012-10-15 | Image processing device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012228453A JP6024374B2 (en) | 2012-10-15 | 2012-10-15 | Image processing device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014082603A true JP2014082603A (en) | 2014-05-08 |
JP6024374B2 JP6024374B2 (en) | 2016-11-16 |
Family
ID=50786417
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012228453A Active JP6024374B2 (en) | 2012-10-15 | 2012-10-15 | Image processing device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6024374B2 (en) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0418857A (en) * | 1990-04-23 | 1992-01-23 | Ricoh Co Ltd | Picture data compression system |
JPH05161108A (en) * | 1991-12-06 | 1993-06-25 | Ricoh Co Ltd | Method and device for controlling code quantity |
JPH06152984A (en) * | 1992-11-06 | 1994-05-31 | Canon Inc | Picture processor |
JPH10126748A (en) * | 1996-10-15 | 1998-05-15 | Hitachi Ltd | Format conversion signal processing method for image signal and its circuit |
JP2010103689A (en) * | 2008-10-22 | 2010-05-06 | Seiko Epson Corp | Image processing apparatus, integrated circuit device, and electronic apparatus |
WO2011159511A2 (en) * | 2010-06-16 | 2011-12-22 | Silicon Image, Inc. | Mechanism for memory reduction in picture-in-picture video generation |
-
2012
- 2012-10-15 JP JP2012228453A patent/JP6024374B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0418857A (en) * | 1990-04-23 | 1992-01-23 | Ricoh Co Ltd | Picture data compression system |
JPH05161108A (en) * | 1991-12-06 | 1993-06-25 | Ricoh Co Ltd | Method and device for controlling code quantity |
JPH06152984A (en) * | 1992-11-06 | 1994-05-31 | Canon Inc | Picture processor |
JPH10126748A (en) * | 1996-10-15 | 1998-05-15 | Hitachi Ltd | Format conversion signal processing method for image signal and its circuit |
JP2010103689A (en) * | 2008-10-22 | 2010-05-06 | Seiko Epson Corp | Image processing apparatus, integrated circuit device, and electronic apparatus |
WO2011159511A2 (en) * | 2010-06-16 | 2011-12-22 | Silicon Image, Inc. | Mechanism for memory reduction in picture-in-picture video generation |
Also Published As
Publication number | Publication date |
---|---|
JP6024374B2 (en) | 2016-11-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10666945B2 (en) | Image processing device and image processing method for decoding a block of an image | |
US8831103B2 (en) | Image processing apparatus and method | |
US8098291B2 (en) | Image pickup apparatus, control method, and control program, and data processing apparatus, method, and program for recording a moving image and a still image | |
US20080304758A1 (en) | Image-signal processing apparatus, image-signal processing method and image-signal processing program | |
JP4693546B2 (en) | Digital noise reduction apparatus and method, and video signal processing apparatus | |
JP4762352B1 (en) | Image processing apparatus and image processing method | |
US20130216150A1 (en) | Image processing device, image processing method, and program | |
US8446965B2 (en) | Compression noise reduction apparatus, compression noise reduction method, and storage medium therefor | |
US9386310B2 (en) | Image reproducing method, image reproducing device, image reproducing program, imaging system, and reproducing system | |
US8548272B2 (en) | Image signal processing apparatus, image signal processing method, camera apparatus, image display apparatus, and image signal output apparatus | |
EP2334081A1 (en) | Image processing device and method | |
US8559526B2 (en) | Apparatus and method for processing decoded images | |
JP2010035157A (en) | Image processing device | |
JP6024374B2 (en) | Image processing device | |
US8526506B1 (en) | System and method for transcoding with quality enhancement | |
US20100165205A1 (en) | Video signal sharpening apparatus, image processing apparatus, and video signal sharpening method | |
US20100215286A1 (en) | Image processing apparatus and image processing method | |
US8270773B2 (en) | Image processing apparatus and image processing method | |
JP2003333370A (en) | Signal processing apparatus | |
JP2012004890A (en) | Video signal output device, and video signal output method | |
JP2011139356A (en) | Display device, display method, program, and record medium | |
US20210136378A1 (en) | Adaptive quality boosting for low latency video coding | |
JP4991884B2 (en) | Image processing apparatus and image processing method | |
JP2005005997A (en) | Image data processor | |
US20100045857A1 (en) | Image Processor and Image Processing Method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150820 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160516 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160524 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160722 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160913 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160926 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6024374 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |