JP4280363B2 - Image processing device - Google Patents

Image processing device Download PDF

Info

Publication number
JP4280363B2
JP4280363B2 JP18898499A JP18898499A JP4280363B2 JP 4280363 B2 JP4280363 B2 JP 4280363B2 JP 18898499 A JP18898499 A JP 18898499A JP 18898499 A JP18898499 A JP 18898499A JP 4280363 B2 JP4280363 B2 JP 4280363B2
Authority
JP
Japan
Prior art keywords
image
image data
circuit
recording
original image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP18898499A
Other languages
Japanese (ja)
Other versions
JP2001024919A (en
JP2001024919A5 (en
Inventor
賢道 伊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP18898499A priority Critical patent/JP4280363B2/en
Publication of JP2001024919A publication Critical patent/JP2001024919A/en
Publication of JP2001024919A5 publication Critical patent/JP2001024919A5/en
Application granted granted Critical
Publication of JP4280363B2 publication Critical patent/JP4280363B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、例えば、画像の記録及び再生機能を有し、特に、ビューファインダ等の表示部にて画像表示を行なう機能を有する装置やシステムに用いられる画像処理装置に関するものである。
【0002】
【従来の技術】
従来より例えば、被写体を撮影し、それにより得られた動画像を記録し再生するカメラ一体型記録再生装置としては、ディジタルビデオカメラ(DVC)等がよく知られている。
このDVCには、撮影中の画像をリアルタイムに表示するためのビューファインダが設けられているのが一般的であり、これにより、ユーザは、ビューファインダに表示されている画像を確認しながら、撮影を行なうことができる。
【0003】
また、上述のDVCにも代表されるように、撮影等によって得られた画像データをディジタル化して記録するディジタル画像記録装置では、記録対象となる画像データ(入力画像)のデータ量削減のために、入力画像データをエンコーダで符号化して圧縮してから記録するようになされている。このとき、様々な圧縮方式が用いられるが、高能率な圧縮方式としては、静止画におけるJPEG方式や、動画におけるMPEG方式等が標準方式としてよく用いられる。
【0004】
【発明が解決しようとする課題】
しかしながら、入力画像(原画像)を圧縮してから記録した場合、その再生画像は、原画像に比べ、画質劣化が生じてしまう。
このため、例えば、上述したようなDVCにより撮影を行なった場合、撮影中にビューファインダに表示される画像(原画像)は順次圧縮され記録されるが、その後該記録画像を再生すると、ユーザにとって、撮影時にビューファインダで確認したときのイメージと、再生したときのイメージとの間に、大きな画質の差が生じてしまう場合がある。これは、ユーザに不満を与えかねない。
特に、記録画像の圧縮率を可変設定できるDVCもあるが、このようなDVCにおいて、例えば、圧縮率を上げ、記録時間を優先させる設定を行なって撮影を行なうと、ユーザがイメージしていた画質とは異なる低画質の状態で記録されてしまう場合がある等、上記の問題は顕著に現れる。
【0005】
そこで、本発明は、上記の欠点を除去するために成されたもので、ユーザが所望する状態の画像を確実に且つ容易に記録することができる画像処理装置を提供することを目的とする。
【0006】
【課題を解決するための手段】
斯かる目的下において、本発明では、例えば、カメラ一体型記録再生装置での撮影モード時に、既に再生画像と同等の画質表示を行い、これをユーザーに確認させることで、再生時の画質を把握できるように構成する。すなわち、圧縮処理によって生じる画質の劣化を確認するために、入力画像(原画像)を一旦符号化し、さらに復号化して、これを表示部で表示する。
【0007】
具体的には、符号化方式としてMPEGを採用したカメラ一体型記録再生装置に関しては、撮影モード時において、撮影して得られた画像をカメラ信号処理部で画像処理した後、これをMPEGエンコーダで符号化して記録媒体に記録する動作と併行して、該MPEGエンコーダで符号化した画像データを、MPEGエンコーダの処理過程に存在する復号処理機能を用いて復号して表示部に表示する。このときの表示形態としては、カメラからの入力画像(原画像)と、該原画像を符号化して復号した画像とを選択的に、又は合成して表示する。
また、エンコーダとデコーダの両方を個別に具備するカメラ一体型記録再生装置に関しては、撮影モード時において、撮影して得られた画像をカメラ信号処理部で画像処理した後、これをエンコーダで符号化して記録媒体に記録する動作と併行して、該エンコーダで符号化した画像を記録処理の前段階で別経路で取得し、この取得した符号化後画像をデコーダで複号して、表示部に表示する。このときの表示形態としては、カメラからの入力画像(原画像)と、該原画像を符号化して復号した画像とを選択的に、又は合成して表示する。
【0008】
すなわち、第1の発明は、原画像データに対して少なくとも直交変換及び量子化処理を施すことによって、該原画像データを符号化する符号化手段であって、前記原画像データに含まれる画像と、既に符号化され復号化された画像との間で動き補償予測を行う動き補償予測部を有する符号化手段と、前記符号化手段によって生成された符号化後の画像データに対して少なくとも逆量子化処理及び逆直交変換を施すことによって、前記符号化後の画像データを復号し、前記動き補償予測部で使用されるローカルデコード画像を生成する復号化手段と、前記原画像データに含まれる原画像が前記復号化手段によって前記ローカルデコード画像として生成されるまでに前記原画像から遅れる時間分を調整するために少なくとも前記原画像データを遅延させる遅延手段と、前記遅延手段によってタイミングが調整された前記原画像データと前記ローカルデコード画像のデータとを入力し、各画像が同一画面上に並べて表示されるように合成する合成手段と、前記合成手段によって合成された画像データを表示部に供給する供給手段と、を備えることを特徴とする。
【0011】
第2の発明は、上記第1の発明において、前記符号化手段によって行われる量子化処理における量子化ステップを可変設定するモードと、固定設定するモードとを選択可能な選択手段を更に備えることを特徴とする。
【0012】
第3の発明は、上記第1又は第2の発明において、被写体を撮像して前記原画像データを発生する撮像手段と、前記撮像手段で発生した原画像データを前記符号化手段及び前記復号化手段を動作させて画像処理した前記符号化後の画像データを記録媒体に記録する記録手段と、を更に備えることを特徴とする。
【0033】
【発明の実施の形態】
以下、本発明の実施の形態について図面を用いて説明する。
【0034】
(第1の実施の形態)
本発明は、例えば、図1に示すような画像記録部100を有する画像記録再生装置に適用される。
本実施の形態における画像記録部100は、特に、入力画像を圧縮して記録する際に、その記録画像を再生したときの画像とほぼ同一の画質で記録画像の画質を確認できるようになされている。
【0035】
ここで、図2は、一般的な画像記録再生装置の画像記録部500を示したものである。
上記図1及び図2に示すように、本実施の形態における画像記録部100は、一般的な画像記録部500の構成に加えて、時間優先等のために圧縮率を変化させながら画像記録を行うモード(以下、「圧縮率可変モード」と言う)と、画質を優先して画像記録を行うモード(以下、「画質優先モード」と言う)とを切り替えるための固定量子化テーブル119及びスイッチ118を備えると共に、原画像と、該原画像を圧縮した後に復号した画像(後述する「ローカルデコード画像」)とを切り替えて画面表示するためのスイッチ120、ディジタル/アナログ変換器(D/Aコンバータ)121、表示部122、及び表示画像外部出力端子123を備える構成としている。
【0036】
尚、上記図1の画像記録部100では、上記図2の一般的な画像記録部500の構成と異なる構成部を点線で示す。また、ここで用いる圧縮方式としては、例えば、MPEG方式としている。
【0037】
すなわち、本実施の形態における画像記録部100は、上記図1に示すように、レンズやCCD等のカメラ部を含む撮像系101、A/Dコンバータ102、カメラ信号処理回路103、画面並替回路104、スイッチ105、減算器106、DCT(直交変換)回路107、量子化回路108、可変長符号化回路109、逆量子化回路110、IDCT(逆直交変換)回路111、加算器112、動き補償予測回路113、スイッチ114、バッファ115、レート制御回路116、及び記録媒体117に加えて、固定量子化テーブル119、スイッチ118、スイッチ120、ディジタル/アナログ変換器(D/Aコンバータ)121、表示部122、表示画像外部出力端子123、及びメモリ124を備える構成としている。
そして、スイッチ105、114、118、及び120と、レート制御回路116と、可変長符号化回路109とをはじめとする各構成部の動作は、図示していないシステムコントローラによって制御されるようになされている。すなわち、このシステムコントローラは、装置全体の動作制御を司るものであり、図示していない操作部からの必要に応じたユーザからの指示によっても、装置全体の動作制御を行うようになされている。
以下、本実施の形態における画像記録部100について具体的に説明する。
【0038】
[画像符号化から記録までの一連の動作]
【0039】
撮像系101にて撮像して得られた画像信号は、A/Dコンバータ102によりディジタル変換されて、カメラ信号処理回路103に対して入力される。
【0040】
カメラ信号処理回路103は、入力画像データに基づいて補正値を決定し、その補正値に従って補正した入力画像データを、色差データと輝度データに分離して1フレーム単位で画面並替回路104に供給する。
【0041】
画面並替回路104は、複数フレームの画像データを記憶できるメモリ(図示せず)を備えており、このメモリへ、カメラ信号処理回路103からの1フレーム単位の画像データを、フレーム順を入れ替えて記憶して、その順で出力する。
【0042】
具体的には例えば、図3に示すように、画面並替回路104には、第1フレーム、第2フレーム、第3フレーム、・・・の順に、画像データが入力される。そして、画面並替回路104は、入力された画像データのフレーム順を入れ替えて(画面の並び替え)、第3フレーム、第1フレーム、第2フレーム、・・・の順に、画像データを出力する。
このような画面並替回路104での画面の並び替えは、図4に示すような、イントラ符号化及びインター符号化を行なうために必要な処理である。
上記の”イントラ符号化”とは、フレーム内の画像データのみで符号化するものであり、上記図4に示すIピクチャを生成するための符号化である。一方、上記の”インター符号化”とは、フレーム間予測も含めて符号化するものであり、上記図4に示すP及びBピクチャを生成するための符号化である。
【0043】
以下、イントラ符号化の場合と、インター符号化の場合とで分けて、画像並替回路104からの動作を説明する。
【0044】
イントラ符号化の場合、画面並替回路104の後段に設けられたスイッチ105は、A側(画面並替回路104からのデータを出力とする端子側)に切り替わる。
これにより、画面並替回路104にて画面の並び替えが行われた画像データは、スイッチ105を介して、DCT回路107に対して入力される。
【0045】
DCT回路107は、入力された画像データを直交変換して量子化回路108へ供給する。
量子化回路108は、DCT回路107からの直交変換後の画像データを量子化して、量子化後の画像データを、逆量子化回路110及び可変長符号化回路109へそれぞれ供給する。
【0046】
逆量子化回路110は、量子化回路108からの量子化後の画像データを逆量子化して、量子化前の画像データ(直交変換後の画像データ)を復元し、それをIDCT回路111へ供給する。
IDCT回路111は、逆量子化回路110からの画像データを逆直交変換して、直交変換前の画像データを復元する。
【0047】
このとき、スイッチ114はOFF状態となっており、すなわちスイッチ114の出力先の加算器112は機能していない状態であるため、IDCT回路111にて得られた画像データは、そのまま動き補償予測回路113に供給される。
【0048】
ここで、画面並替回路104にて画面の並び替えが行われた画像データは、動き補償予測回路113にも供給されている。
このため、動き補償予測回路113には、画面並替回路104の出力と、IDCT回路111の出力とが供給された状態にある。
【0049】
動き補償予測回路113は、画面並替回路104からの画像データと、IDCT回路111からの画像データとから、次のインター符号化のための予測画像データを生成する。
【0050】
可変長符号化回路109は、量子化回路108からの量子化後の画像データを可変長符号化して、可変長符号化後の画像データをバッファ115に供給する。
このバッファ115内の画像データは、記録媒体117に記録される。
【0051】
一方、インター符号化の場合、画面並替回路104の後段に設けられたスイッチ105は、B側(後述する減算器106からのデータを出力とする端子側)に切り替わる。
これにより、減算器106において、画面並替回路104にて画面の並び替えが行われた画像データと、上述した動き補償予測回路113にて得られた予測画像データとの減算が行われ、この減算結果、すなわち時間軸方向の冗長度が落とされた画像データが、スイッチ105を介してDCT回路107へ供給される。
【0052】
DCT回路107は、減算器106にて時間軸方向の冗長度が落とされた画像データを直交変換して量子化回路108へ供給する。
量子化回路108は、DCT回路107からの直交変換後の画像データを量子化して、量子化後の画像データを、逆量子化回路110及び可変長符号化回路109へそれぞれ供給する。
【0053】
逆量子化回路110は、量子化回路108からの量子化後の画像データを逆量子化して、量子化前の画像データ(直交変換後の画像データ)を復元し、それをIDCT回路111へ供給する。
IDCT回路111は、逆量子化回路110からの画像データを逆直交変換して、直交変換前の画像データを復元する。
【0054】
このとき、スイッチ114がOFF状態となることで、すなわちスイッチ114の出力先の加算器112が機能していない状態となることで、IDCT回路111にて得られた画像データは、そのまま動き補償予測回路113に供給される。また、画面並替回路104にて画面の並び替えが行われた画像データは、動き補償予測回路113にも供給されている。
このような状態において、動き補償予測回路113は、画面並替回路104からの画像データと、IDCT回路111からの画像データとから、次のインター符号化のための予測画像データを生成する。
【0055】
また、スイッチ114がON状態となることで、すなわちスイッチ114の出力先の加算器112が機能した状態となることで、加算器112では、動き補償予測回路113にて生成された予測画像データと、IDCT回路111にて得られた画像データとの加算が行われる。この加算器112での加算結果は、復号画像データとして、次の符号化のために、動き補償予測回路113に供給される。
【0056】
動き補償予測回路113は、加算器112からの復号画像データと、画面並替回路104からの画像データとから、次のインター符号化のための予測画像データを生成すると共に、動きベクトルを検出する。
【0057】
可変長符号化回路109は、動き補償予測回路113にて検出された動きベクトルに基づいて、量子化回路108からの量子化後の画像データを可変長符号化して、可変長符号化後の画像データをバッファ115に供給する。
このバッファ115内の画像データは、記録媒体117に記録される。
【0058】
[バッファ115の記録レートに従った量子化制御]
【0059】
一般に(上記図2参照)、レート制御回路116は、バッファ115の容量を認識し、その容量が目標容量より少ない場合には、次の量子化が粗く行われるように量子化回路108を制御し、その容量が目標容量若しくはそれ以上の場合には、予め初期値として与えられている通常の量子化を行うように、量子化回路108を制御することで、バッファ115の記録レートを1ピクチャ間にほぼ一定にする。
このとき、入力画像の動きが速かったり、色の帯域が広い場合は、レート制御回路116での記録レートを一定に保つための制御により、量子化回路108での量子化が粗く行われることになる。
【0060】
そこで、ここでのレート制御回路116による量子化回路108の制御は(上記図1参照)、スイッチ118を介して行われるようになされている。
【0061】
具体的には、まず、スイッチ118は、圧縮率可変モード(時間優先等のために圧縮率を変化させながら画像記録を行うモード)と、画質優先モード(画質を優先して画像記録を行うモード)との何れかのモードが設定されているかによって、A側(固定量子化テーブル119側)と、B側(レート制御回路116側)との何れの出力を量子化回路108に与えるかを切り替えるようになされている。
【0062】
例えば、圧縮率可変モードに設定されている場合、スイッチ118は、B側に切り替えられる。
これにより、レート制御回路116は、バッファ115の容量を認識し、その容量が目標容量より少ない場合には、次の量子化が粗く行われるように量子化回路108を制御し、その容量が目標容量若しくはそれ以上の場合には、予め初期値として与えられている通常の量子化を行うように、量子化回路108を制御することで、バッファ115の記録レートを1ピクチャ間にほぼ一定となるような制御を行う。この結果、目標時間に従って、画像データの符号化が行われ、記録媒体117への画像データの記録が行われることになる。このとき、目標時間を長くすることは可能であるが、この場合の圧縮率は必然的に高まる。
【0063】
一方、画質優先モードに設定されている場合、スイッチ118は、A側に切り替えられる。
これにより、量子化回路108は、レート制御回路116からの上述した圧縮率可変モードにおける制御に従った量子化を行うのではなく、固定量子化テーブル119の情報を用いた量子化を行う。すなわち、量子化回路108は、固定量子化テーブル119から量子化テーブルを読み込み、それに基づいた量子化を行うことで、処理対象の画像データの画質を一定に保つようにする。
固定量子化テーブル119には、例えば、イントラ符号化用と、それ以外のフレーム符号化用との2つの量子化テーブルがあり、量子化回路108は、これらの量子化テーブルを適宜切り替えて用いる。
このような画質優先モードでは、入力画像の動きが速かったり、色の帯域が広い場合には、記録レートは高くなるが、画質に変化のない符号化が実現できる。また、入力画像の動きが遅かったり、色の帯域が狭い場合には、記録レートは低くなる。
【0064】
[記録画像を確認可能とする構成]
【0065】
本実施の形態の最も特徴とする構成は、上述したように、入力画像を圧縮して記録する際に、その記録画像を再生したときの画像とほぼ同一の画質で記録画像の画質を確認できる構成にある。
このため、画像記録部100は、次のように動作する。
【0066】
まず、上述したIDCT回路111の出力、すなわち入力画像がDCT回路107及び量子化回路108により圧縮され、その圧縮後の画像(圧縮後画像)が逆量子化回路110、IDCT回路111、及び加算器112により復号された画像(局部復号画像)は、メモリ124、スイッチ120、及びD/Aコンバータ121を順次介して、表示部122に供給されるようになされている。
尚、メモリ124は、ブロック化された画像をフレーム画像とするために用いられる。
【0067】
このように、DCT回路107及び量子化回路108により圧縮画像を、DCT回路107及び量子化回路108にそれぞれ対応した逆量子化回路110、IDCT回路111、及び加算器112により復号して、再び視認できる画像に戻された状態の画像を取得することで、圧縮→伸張(符号化→復号化)された画像、すなわち記録画像の再生画像(以下、「ローカルデコード画像」と言う)とほぼ同一な画質で、記録画像の画質の確認を行うことができる。
【0068】
また、ここでは、カメラ信号処理回路103の出力(原画像)もスイッチ120及びD/Aコンバータ121を順次介して、表示部122に供給されるようになされている。
これにより、ローカルデコード画像と、原画像とを表示部122にて比較することができる。
【0069】
上記の構成をさらに具体的に説明すると、カメラ信号処理回路103の出力(原画像)と、加算器112の出力(ローカルデコード画像)とは、スイッチ120に供給される。
スイッチ120は、上述したシステムコントローラからの制御に従って、カメラ信号処理回路103の出力(原画像)と、加算器112の出力(ローカルデコード画像)とを選択的に出力する。
スイッチ120から出力された画像(ディジタル的な画像)は、D/Aコンバータ121によりアナログ化され、画像信号に戻され、表示部122により表示される。これにより、ユーザは、記録画像を、該記録画像の再生画像の画質とほぼ同一の画質で確認することができる。
このとき、スイッチ120により選択された画像は、表示画像外部出力端子123(ディジタルインターフェース:DIF等の端子)から外部出力される。これにより、その画像のテータ送信も可能となり、高精細モニタ等の外部装置での表示も可能となる。
【0070】
上述のような、表示部122でのローカルデコード画像の表示は、例えば、撮影モードにおける撮影画像の記録中や、記録スタンバイ時に、実行可能なようになされている。
また、ユーザが、表示部122によりローカルデコード画像(記録画像)の画質を確認した後、図示していない操作部により、圧縮率可変モード又は画質優先モードの再設定を行うことで、所望する圧縮率に変更ことも可能である。この場合、この指示に従って、レート制御回路116は、上述したような量子化制御を再度実行する。
【0071】
上述のように、本実施の形態では、MPEGエンコーダの機能からローカルデコード画像を取得し、これを表示部122にて表示するように構成したので、回路構成を複雑にすることなく、記録画像を、該記録画像の再生画像の画質とほぼ同一の画質で確認することができる。
【0072】
(第2の実施の形態)
上述した第1の実施の形態では、原画像と、ローカルデコード画像とを切り替えて、表示部122により表示するように構成したが、本実施の形態では、原画像と、ローカルデコード画像とを合成した合成画像を、表示部122により表示する。
このため、本実施の形態における画像記録部100は、図5に示すように、上述した第1の実施の形態における画像記録部100のスイッチ120の代わりに(上記図1参照)、画像合成回路125を設けると共に、原画像を所定時間遅延させるためのFIFOメモリ124を設けた構成としている。
尚、上記図5の画像記録部100において、上記図1の画像記録部と同様に動作する箇所には同じ符号を付し、その詳細な説明は省略する。
【0073】
上記図5に示すような本実施の形態における画像記録部100では、カメラ信号処理回路103の出力(原画像)が、FIFO回路124に供給される。
FIFO回路124は、カメラ信号処理回路103の出力(原画像)を、所定時間遅延してから画像合成回路125に供給する。これは、加算器112から画像合成回路125に供給されるローカルデコード画像が、撮影された以降、各回路での画像処理に要した時間分だけ、原画像より遅れるためである。これにより、原画像と、ローカルデコード画像とタイミングがとられて、画像合成回路125での画像合成が行われることになる。
尚、FIFO回路124は、本実施の形態での必須構成ではなく、FIFO回路124を設けないように構成しても問題はない。
【0074】
画像合成回路125は、FIFO回路124を介した原画像と、加算器112からのローカルデコード画像とを合成して合成画像を生成する。
画像合成回路125にて得られた合成画像は、D/Aコンバータ121を介して表示部122に供給され、表示部122にて表示される。
【0075】
図6及び図7は、表示部122での表示画面、すなわち画像合成回路125にて生成される合成画像の一例を示したものである。
上記図6は、原画像とローカルデコード画像を、それぞれ所定のサイズまで間引いて合成し、記録画質確認モードとして、原画像とローカルデコード画像を合わせて表示して比較できるような合成画像を生成した場合の一例である。
上記図7は、原画像を通常サイズで表示しつつ、その画面(大画面)上の小画面に、間引き処理したローカルデコード画像(記録画像)を合成した場合の一例である。尚、大画面にローカルデコード画像を表示し、その小画面に原画像を表示するようにしてもよい。 このような合成画像が表示部122に表示されることで、ユーザは、記録画像の画質を、原画像の画質と容易に比較して確認することができる。
【0076】
(第3の実施の形態)
上述した第1及び第2の実施の形態では、符号化方式としてMPEG方式を用いた画像記録再生装置に本発明を適用し、MPEGエンコーダの機能からローカルデコード画像を取得して表示するようにしたが、本実施の形態では、符号化方式として任意の方式を用い、エンコーダ及びデコーダが個別に設けられた画像記録再生装置に本発明を適用して、入力画像を圧縮して記録する際に、その記録画像を再生したときの画像とほぼ同一の画質で記録画像の画質を確認できる構成を実現する。
【0077】
このため、本実施の形態における画像記録再生装置の画像記録部を、例えば、図8に示すような構成とする。
すなわち、本実施の形態における画像記録部200は、レンズやCCD等を含む撮像系201、A/Dコンバータ202、カメラ信号処理回路203、所定の圧縮方式を用いて原画像の符号化を行なうエンコーダ204、符号化後の画像に対して記録処理を行う記録処理回路205、記録媒体206、記録画像の再生処理を行なう再生処理回路207、エンコーダ204での圧縮方式に対応する復号方式で画像の復号化を行なうデコーダ208、スイッチ209,D/Aコンバータ210、液晶ディスプレイ等の表示部211、表示画像外部出力端子212、装置全体の動作制御を司るシステムコントローラ213、及び操作指示入力部214を備えている。
以下、本実施の形態における画像記録部200について具体的に説明する。
【0078】
[画像符号化から記録までの一連の動作]
【0079】
先ず、撮像系201にて撮影して得られた画像信号は、A/Dコンバータ202によりデジタル化され、カメラ信号処理回路203に供給される。
カメラ信号処理回路203は、A/Dコンバータ202からの画像データの輝度や色の調整処理等を行う。このカメラ信号処理回路203での処理後の画像データは、エンコーダ204に供給される。
【0080】
エンコーダ204は、カメラ信号処理回路203からの画像データを、所定の圧緒方式のアルゴリズムに基づいて符号化する。ここでの圧縮方式としては、例えば、家庭用ディジタルビデオでの帯域圧緒方式として採用されているDV圧縮方式、その他JPEG等の標準的な画像圧縮方式、又は装置固有の画像圧縮方式等、どのような圧縮方式にも採用可能である。
エンコーダ204にて圧縮された画像データは、記録処理回路205に供給される。
【0081】
記録処理回路205は、エンコーダ204からの画像データを、記録に適したフォーマットへ変換(フォーマット変換)した後、それを図示していない記録用ヘッドを用いて、ディスク状記録媒体等の記録媒体206の所定領域に記録する。
【0082】
上述のようにして記録媒体206へ記録された画像を再生する場合、記録媒体206の記録画像は、図示していない再生用ヘッドにより読み取られる。この読み取られた記録画像データは、再生処理回路207へ供給される。
再生処理回路207は、上記再生ヘッドにより読み取られた記録画像データに対して、記録処理回路205でのフォーマット変換前のデータに戻す変換処理を行う。この処理後の画像データは、デコーダ208に供給される。
【0083】
デコーダ208は、再生処理回路207からの画像データ、すなわち圧縮状態の画像データを、エンコーダ204での圧縮方式に対応した方式で、伸張する。このようにして伸張された画像データは、後述するスイッチ209及びD/Aコンバータ210を順次介して、表示部211にて表示される。
また、D/Aコンバータ210から出力される画像データは、表示画像外部出力212にも供給されるようになされており、これにより、その画像のテータ送信も可能となり、高精細モニタ等の外部装置での表示も可能となる。
【0084】
[記録画像を確認可能とする構成]
【0085】
本実施の形態の最も特徴とする構成は、上述した第1及び第2の実施の形態と同様に、入力画像を圧縮して記録する際に、その記録画像を再生したときの画像とほぼ同一の画質で記録画像の画質を確認できる構成にある。
このため、画像記録部200は、次のような構成及び動作を実行するようになされている。
【0086】
まず、原画像と、圧縮→伸張(符号化→復号化)された画像(ローカルデコード画像)との画質比較を実現するために、画像記録部200では、エンコーダ204とデコーダ208を直結する。これにより、エンコーダ204にて得られた圧縮後の画像データは、記録処理回路205に供給されると同時に、デコーダ208にも供給される。デコーダ208は、エンコーダ201からの画像データを伸張する。
このように、画像記録部200では、エンコーダ204とデコーダ208を直結することで、圧縮された画像データをすぐさま伸張して、ローカルデコード画像を取得する。このローカルデコード画像(記録画像の再生画像とほぼ同一な画質の画像)は、原画像と並行してリアルタイムに取得される。
【0087】
上述のようにして得られたローカルデコード画像は、スイッチ209に供給される。
【0088】
スイッチ209は、システムコントローラ213からの制御に従って、カメラ信号処理回路203の出力(原画像)と、デコーダ208の出力(ローカルデコード画像)とを選択的に出力する。
スイッチ209から出力された画像(ディジタル的な画像)は、D/Aコンバータ210によりアナログ化され、画像信号に戻され、表示部211により表示される。これにより、ユーザは、記録画像を、該記録画像の再生画像の画質とほぼ同一の画質で確認することができる。
【0089】
上述のような、表示部211でのローカルデコード画像の表示は、例えば、撮影モードにおける撮影画像の記録中や、記録スタンバイ時に、実行可能なようになされている。
【0090】
上述のような構成によっても、記録画像を、該記録画像の再生画像の画質とほぼ同一の画質で確認することができる。すなわち、本発明は、MPEG方式を用いた画像記録再生装置に限らず、任意の符号化方式を用いたあらゆる画像記録再生装置に適用可能である。
【0091】
尚、上述した第3の実施の形態において、スイッチ209の代わりに、第2の実施の形態での画像合成回路125のような構成を設けるようにしてもよい。これにより、原画像とローカルデコード画像を合成した合成画像を表示部211に表示することができ、ユーザは、原画像の画質と、記録画像の画質とを容易に比較することができる。
【0092】
また、上述した第3の実施の形態において、エンコーダ204(及びそれに対応するデコーダ208)を、操作部214によりユーザから指定された圧縮率に従った可変長符号化方式を用いる構成(符号化レート制御可能な構成)とすることで、第1及び第2の実施の形態と同様に、ユーザが、表示部211によりローカルデコード画像(記録画像)の画質を確認した後、操作部214により、圧縮率可変モード又は画質優先モードの再設定を行うことで、所望する圧縮率に変更ことも可能である。この場合、システムコントローラ213は、操作部214からの指示に従って、エンコーダ204での圧縮率を制御する。
【0093】
また、本発明の目的は、上述した各実施の形態のホスト及び端末の機能を実現するソフトウェアのプログラムコードを記憶した記憶媒体を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU)が記憶媒体に格納されたプログラムコードを読みだして実行することによっても、達成されることは言うまでもない。
この場合、記憶媒体から読み出されたプログラムコード自体が各実施の形態の機能を実現することとなり、そのプログラムコードを記憶した記憶媒体は本発明を構成することとなる。
プログラムコードを供給するための記憶媒体としては、ROM、フロッピーディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード等を用いることができる。
また、コンピュータが読みだしたプログラムコードを実行することにより、各実施の形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS等が実際の処理の一部又は全部を行い、その処理によって各実施の形態の機能が実現される場合も含まれることは言うまでもない。
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された拡張機能ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部又は全部を行い、その処理によって各実施の形態の機能が実現される場合も含まれることは言うまでもない。
【0094】
【発明の効果】
以上説明したように、本発明では、原画像と、原画像を符号化した後に復元した画像とを、並べて表示するように構成したので、原画像の符号化前後の画質比較を行うことができる。
【0095】
よって、本発明によれば、ユーザが所望する状態の画像を確実に且つ容易に記録することができる。
【図面の簡単な説明】
【図1】第1の実施の形態において、本発明を適用した画像記録再生装置の画像記録部の構成を示すブロック図である。
【図2】上記画像記録部にて用いる符号化方式(MPEG方式)を説明するための図である。
【図3】上記第1の実施の形態における画像記録部の画像並替回路での処理を説明するための図である。
【図4】上記符号化順序を説明するための図である。
【図5】第2の実施の形態における上記画像記録部の構成を示すブロック図である。
【図6】上記画像記録部の表示部での表示画面の一例(例1)を説明するための図である。
【図7】上記画像記録部の表示部での表示画面の一例(例2)を説明するための図である。
【図8】第3の実施の形態において、本発明を適用した画像記録再生装置の画像記録部の構成を示すブロック図である。
【符号の説明】
100 画像記録部
101 撮像系
102 A/Dコンバータ
103 カメラ信号処理回路
104 画像並替回路
105 スイッチ
106 減算器
107 DCT回路
108 量子化回路
109 可変長符号化回路
110 逆量子化回路
111 IDCT回路
112 加算器
113 動き補償予測回路
114 スイッチ
115 バッファ
116 レート制御回路
117 記録媒体
118 スイッチ
119 固定量子化テーブル
120 スイッチ
121 D/Aコンバータ
122 表示部
123 表示画像外部出力端子
124 メモリ
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to, for example, an image processing apparatus having an image recording and reproducing function, and in particular, an apparatus or system having a function of displaying an image on a display unit such as a viewfinder.
[0002]
[Prior art]
2. Description of the Related Art Conventionally, for example, a digital video camera (DVC) or the like is well known as a camera-integrated recording / reproducing apparatus that captures a subject and records and reproduces a moving image obtained thereby.
The DVC is generally provided with a viewfinder for displaying an image being photographed in real time, so that the user can shoot while confirming the image displayed on the viewfinder. Can be performed.
[0003]
Further, as represented by the above-described DVC, in a digital image recording apparatus that digitizes and records image data obtained by photographing or the like, in order to reduce the amount of image data (input image) to be recorded. The input image data is recorded after being encoded and compressed by an encoder. At this time, various compression methods are used. As a highly efficient compression method, a JPEG method for still images, an MPEG method for moving images, and the like are often used as standard methods.
[0004]
[Problems to be solved by the invention]
However, when the input image (original image) is recorded after being compressed, the reproduced image is deteriorated in image quality as compared with the original image.
For this reason, for example, when shooting is performed with the DVC as described above, images (original images) displayed on the viewfinder during shooting are sequentially compressed and recorded. In some cases, a large difference in image quality may occur between the image that is confirmed by the viewfinder at the time of shooting and the image that is reproduced. This can be frustrating for the user.
In particular, there is a DVC that can variably set the compression rate of a recorded image. In such a DVC, for example, when shooting is performed with a setting that prioritizes the recording time by increasing the compression rate, the image quality that the user has imaged is set. The above-mentioned problem appears remarkably, for example, the image may be recorded in a low image quality state different from the above.
[0005]
Therefore, the present invention has been made to eliminate the above-described drawbacks, and an object thereof is to provide an image processing apparatus that can reliably and easily record an image in a state desired by a user.
[0006]
[Means for Solving the Problems]
Under such a purpose, in the present invention, for example, in the shooting mode of the camera-integrated recording / playback device, the image quality display equivalent to the playback image has already been performed and the user confirms this, thereby grasping the image quality during playback. Configure as you can. That is, in order to confirm the deterioration of the image quality caused by the compression process, the input image (original image) is once encoded, further decoded, and displayed on the display unit.
[0007]
Specifically, with respect to a camera-integrated recording / playback apparatus that employs MPEG as an encoding method, an image obtained by shooting is processed by a camera signal processing unit in a shooting mode, and this is then processed by an MPEG encoder. In parallel with the operation of encoding and recording on the recording medium, the image data encoded by the MPEG encoder is decoded using a decoding processing function existing in the process of the MPEG encoder and displayed on the display unit. As a display form at this time, an input image (original image) from the camera and an image obtained by encoding and decoding the original image are selectively or combined and displayed.
In addition, regarding a camera-integrated recording / playback apparatus that includes both an encoder and a decoder, in the shooting mode, the camera signal processing unit performs image processing on the captured image, and then encodes this with the encoder. In parallel with the operation of recording on the recording medium, the image encoded by the encoder is acquired by another path in the previous stage of the recording process, and the acquired encoded image is decoded by the decoder and displayed on the display unit. indicate. As a display form at this time, an input image (original image) from the camera and an image obtained by encoding and decoding the original image are selectively or combined and displayed.
[0008]
That is, the first invention is encoding means for encoding the original image data by performing at least orthogonal transformation and quantization processing on the original image data, and includes an image included in the original image data, Encoding means having a motion compensated prediction unit for performing motion compensation prediction with an already encoded and decoded image, and at least inverse quanta for the encoded image data generated by the encoding means And decoding means for decoding the encoded image data and generating a local decoded image used in the motion compensated prediction unit, and a source included in the original image data At least the original image data is delayed in order to adjust the time delay from the original image until the image is generated as the local decoded image by the decoding means. Delaying means, combining the original image data adjusted in timing by the delaying means and the data of the local decoded image, and combining the images so that the images are displayed side by side on the same screen, And supplying means for supplying the display unit with the image data synthesized by the synthesizing means.
[0011]
According to a second aspect, in the first aspect, the information processing apparatus further includes selection means capable of selecting a mode for variably setting a quantization step and a mode for fixed setting in the quantization processing performed by the encoding means. Features.
[0012]
According to a third aspect of the present invention, in the first or second aspect of the present invention, an image capturing unit that captures an image of a subject and generates the original image data, and the original image data generated by the image capturing unit includes the encoding unit and the decoding unit. And recording means for recording the encoded image data subjected to image processing by operating the means on a recording medium.
[0033]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
[0034]
(First embodiment)
The present invention is applied to, for example, an image recording / reproducing apparatus having an image recording unit 100 as shown in FIG.
The image recording unit 100 according to the present embodiment can check the image quality of the recorded image with almost the same image quality as that when the recorded image is reproduced, particularly when the input image is compressed and recorded. Yes.
[0035]
Here, FIG. 2 shows an image recording unit 500 of a general image recording / reproducing apparatus.
As shown in FIGS. 1 and 2, the image recording unit 100 according to the present embodiment performs image recording while changing the compression rate in order to give priority to time in addition to the general configuration of the image recording unit 500. Fixed quantization table 119 and switch 118 for switching between a mode to be performed (hereinafter referred to as “variable compression rate mode”) and a mode in which image recording is performed with priority on image quality (hereinafter referred to as “image quality priority mode”). And a switch 120 for switching and displaying an original image and an image (a “local decoded image” described later) decoded after the original image is compressed, and a digital / analog converter (D / A converter) 121, a display unit 122, and a display image external output terminal 123.
[0036]
In the image recording unit 100 shown in FIG. 1, components different from the configuration of the general image recording unit 500 shown in FIG. 2 are indicated by dotted lines. The compression method used here is, for example, the MPEG method.
[0037]
That is, the image recording unit 100 according to the present embodiment includes an imaging system 101 including a camera unit such as a lens and a CCD, an A / D converter 102, a camera signal processing circuit 103, and a screen rearrangement circuit as shown in FIG. 104, switch 105, subtractor 106, DCT (orthogonal transformation) circuit 107, quantization circuit 108, variable length coding circuit 109, inverse quantization circuit 110, IDCT (inverse orthogonal transformation) circuit 111, adder 112, motion compensation In addition to the prediction circuit 113, the switch 114, the buffer 115, the rate control circuit 116, and the recording medium 117, the fixed quantization table 119, the switch 118, the switch 120, the digital / analog converter (D / A converter) 121, and the display unit 122, a display image external output terminal 123, and a memory 124.
The operation of each component including the switches 105, 114, 118, and 120, the rate control circuit 116, and the variable length coding circuit 109 is controlled by a system controller (not shown). ing. In other words, this system controller controls the operation of the entire apparatus, and controls the operation of the entire apparatus in accordance with a user instruction as required from an operation unit (not shown).
Hereinafter, the image recording unit 100 in the present embodiment will be specifically described.
[0038]
[A series of operations from image encoding to recording]
[0039]
An image signal obtained by imaging with the imaging system 101 is digitally converted by the A / D converter 102 and input to the camera signal processing circuit 103.
[0040]
The camera signal processing circuit 103 determines a correction value based on the input image data, separates the input image data corrected according to the correction value into color difference data and luminance data, and supplies the data to the screen rearrangement circuit 104 in units of one frame. To do.
[0041]
The screen rearrangement circuit 104 includes a memory (not shown) capable of storing a plurality of frames of image data, and the frame order of the image data for each frame from the camera signal processing circuit 103 is switched to this memory. Store and output in that order.
[0042]
Specifically, for example, as shown in FIG. 3, image data is input to the screen rearrangement circuit 104 in the order of the first frame, the second frame, the third frame,. The screen rearrangement circuit 104 changes the frame order of the input image data (screen rearrangement), and outputs the image data in the order of the third frame, the first frame, the second frame,. .
Such screen rearrangement by the screen rearrangement circuit 104 is a process necessary for performing intra coding and inter coding as shown in FIG.
The “intra coding” described above is coding using only image data in a frame, and is coding for generating the I picture shown in FIG. On the other hand, the above “inter-coding” is coding including inter-frame prediction, and is coding for generating the P and B pictures shown in FIG.
[0043]
Hereinafter, the operation from the image rearrangement circuit 104 will be described separately for the case of intra coding and the case of inter coding.
[0044]
In the case of intra coding, the switch 105 provided at the subsequent stage of the screen rearrangement circuit 104 is switched to the A side (terminal side that outputs data from the screen rearrangement circuit 104).
As a result, the image data whose screen has been rearranged by the screen rearrangement circuit 104 is input to the DCT circuit 107 via the switch 105.
[0045]
The DCT circuit 107 orthogonally transforms the input image data and supplies it to the quantization circuit 108.
The quantization circuit 108 quantizes the image data after orthogonal transformation from the DCT circuit 107 and supplies the quantized image data to the inverse quantization circuit 110 and the variable length coding circuit 109, respectively.
[0046]
The inverse quantization circuit 110 performs inverse quantization on the quantized image data from the quantization circuit 108 to restore the image data before quantization (image data after orthogonal transformation), and supplies it to the IDCT circuit 111. To do.
The IDCT circuit 111 performs inverse orthogonal transform on the image data from the inverse quantization circuit 110 to restore the image data before the orthogonal transform.
[0047]
At this time, since the switch 114 is in an OFF state, that is, the adder 112 that is the output destination of the switch 114 is not functioning, the image data obtained by the IDCT circuit 111 is used as it is as a motion compensation prediction circuit. 113.
[0048]
Here, the image data whose screen has been rearranged by the screen rearrangement circuit 104 is also supplied to the motion compensation prediction circuit 113.
For this reason, the motion compensation prediction circuit 113 is in a state where the output of the screen rearrangement circuit 104 and the output of the IDCT circuit 111 are supplied.
[0049]
The motion compensation prediction circuit 113 generates predicted image data for the next inter coding from the image data from the screen rearrangement circuit 104 and the image data from the IDCT circuit 111.
[0050]
The variable length encoding circuit 109 performs variable length encoding on the quantized image data from the quantization circuit 108 and supplies the variable length encoded image data to the buffer 115.
The image data in the buffer 115 is recorded on the recording medium 117.
[0051]
On the other hand, in the case of inter coding, the switch 105 provided in the subsequent stage of the screen rearrangement circuit 104 is switched to the B side (the terminal side that outputs data from a subtractor 106 described later).
As a result, the subtractor 106 performs subtraction between the image data whose screen has been rearranged by the screen rearrangement circuit 104 and the predicted image data obtained by the motion compensation prediction circuit 113 described above. The subtraction result, that is, the image data from which the redundancy in the time axis direction is reduced is supplied to the DCT circuit 107 via the switch 105.
[0052]
The DCT circuit 107 orthogonally transforms the image data whose redundancy in the time axis direction is reduced by the subtractor 106 and supplies the image data to the quantization circuit 108.
The quantization circuit 108 quantizes the image data after orthogonal transformation from the DCT circuit 107 and supplies the quantized image data to the inverse quantization circuit 110 and the variable length coding circuit 109, respectively.
[0053]
The inverse quantization circuit 110 performs inverse quantization on the quantized image data from the quantization circuit 108 to restore the image data before quantization (image data after orthogonal transformation), and supplies it to the IDCT circuit 111. To do.
The IDCT circuit 111 performs inverse orthogonal transform on the image data from the inverse quantization circuit 110 to restore the image data before the orthogonal transform.
[0054]
At this time, when the switch 114 is turned off, that is, when the adder 112 at the output destination of the switch 114 is not functioning, the image data obtained by the IDCT circuit 111 is directly subjected to motion compensation prediction. This is supplied to the circuit 113. The image data whose screen has been rearranged by the screen rearrangement circuit 104 is also supplied to the motion compensation prediction circuit 113.
In such a state, the motion compensation prediction circuit 113 generates predicted image data for the next inter coding from the image data from the screen rearrangement circuit 104 and the image data from the IDCT circuit 111.
[0055]
Also , Su When the switch 114 is turned on, that is, when the adder 112 that is the output destination of the switch 114 is in a functioning state, the adder 112 performs the prediction image data generated by the motion compensation prediction circuit 113 and the IDCT. Addition with the image data obtained by the circuit 111 is performed. The addition result in the adder 112 is supplied as decoded image data to the motion compensation prediction circuit 113 for the next encoding.
[0056]
The motion compensation prediction circuit 113 generates prediction image data for the next inter coding from the decoded image data from the adder 112 and the image data from the screen rearrangement circuit 104, and detects a motion vector. .
[0057]
The variable-length encoding circuit 109 performs variable-length encoding on the quantized image data from the quantization circuit 108 based on the motion vector detected by the motion compensation prediction circuit 113, and the variable-length encoded image Data is supplied to the buffer 115.
The image data in the buffer 115 is recorded on the recording medium 117.
[0058]
[Quantization control according to the recording rate of the buffer 115]
[0059]
In general (see FIG. 2 above), the rate control circuit 116 recognizes the capacity of the buffer 115, and when the capacity is smaller than the target capacity, controls the quantization circuit 108 so that the next quantization is performed roughly. When the capacity is equal to or larger than the target capacity, the recording rate of the buffer 115 is set between one picture by controlling the quantization circuit 108 so as to perform normal quantization given as an initial value in advance. Almost constant.
At this time, if the movement of the input image is fast or the color band is wide, the quantization in the quantization circuit 108 is roughly performed by the control for keeping the recording rate constant in the rate control circuit 116. Become.
[0060]
Therefore, the control of the quantization circuit 108 by the rate control circuit 116 here (see FIG. 1 above) is performed via the switch 118.
[0061]
Specifically, first, the switch 118 includes a variable compression ratio mode (a mode in which image recording is performed while changing the compression ratio for time priority) and an image quality priority mode (a mode in which image recording is performed with priority on image quality). ) To switch the output from the A side (fixed quantization table 119 side) or the B side (rate control circuit 116 side) to the quantization circuit 108 depending on which mode is set. It is made like that.
[0062]
For example, when the compression rate variable mode is set, the switch 118 is switched to the B side.
As a result, the rate control circuit 116 recognizes the capacity of the buffer 115, and if the capacity is smaller than the target capacity, the rate control circuit 116 controls the quantization circuit 108 so that the next quantization is roughly performed, and the capacity is set to the target capacity. In the case of capacity or more, the recording rate of the buffer 115 becomes almost constant between pictures by controlling the quantization circuit 108 so as to perform normal quantization given as an initial value in advance. Perform such control. As a result, the image data is encoded according to the target time, and the image data is recorded on the recording medium 117. At this time, it is possible to lengthen the target time, but the compression rate in this case inevitably increases.
[0063]
On the other hand, when the image quality priority mode is set, the switch 118 is switched to the A side.
As a result, the quantization circuit 108 does not perform quantization according to the control in the compression rate variable mode described above from the rate control circuit 116, but performs quantization using information in the fixed quantization table 119. That is, the quantization circuit 108 reads the quantization table from the fixed quantization table 119 and performs quantization based on the read quantization table 119 so as to keep the image quality of the image data to be processed constant.
The fixed quantization table 119 includes, for example, two quantization tables for intra coding and other frame coding, and the quantization circuit 108 switches between these quantization tables as appropriate.
In such an image quality priority mode, when the input image moves fast or the color band is wide, the recording rate is high, but encoding without change in image quality can be realized. Further, when the movement of the input image is slow or the color band is narrow, the recording rate is low.
[0064]
[Configuration to make it possible to check recorded images]
[0065]
The most characteristic configuration of the present embodiment is that, as described above, when an input image is compressed and recorded, the image quality of the recorded image can be confirmed with almost the same image quality as that when the recorded image is reproduced. In the configuration.
For this reason, the image recording unit 100 operates as follows.
[0066]
First, the output of the IDCT circuit 111, that is, the input image is compressed by the DCT circuit 107 and the quantization circuit 108, and the compressed image (compressed image) is the inverse quantization circuit 110, the IDCT circuit 111, and the adder. The image (local decoded image) decoded by 112 is supplied to the display unit 122 via the memory 124, the switch 120, and the D / A converter 121 in this order.
Note that the memory 124 is used to make a blocked image a frame image.
[0067]
As described above, the compressed image is decoded by the DCT circuit 107 and the quantization circuit 108 by the inverse quantization circuit 110, the IDCT circuit 111, and the adder 112 corresponding to the DCT circuit 107 and the quantization circuit 108, respectively. By acquiring an image that has been converted back to a usable image, it is almost the same as a compressed-decompressed (encoded-decoded) image, that is, a reproduced image of a recorded image (hereinafter referred to as a “local decoded image”). The image quality of the recorded image can be confirmed with the image quality.
[0068]
Here, the output (original image) of the camera signal processing circuit 103 is also supplied to the display unit 122 via the switch 120 and the D / A converter 121 in order.
Thereby, the local decoded image and the original image can be compared on the display unit 122.
[0069]
To describe the above configuration more specifically, the output (original image) of the camera signal processing circuit 103 and the output (local decoded image) of the adder 112 are supplied to the switch 120.
The switch 120 selectively outputs the output (original image) of the camera signal processing circuit 103 and the output (local decoded image) of the adder 112 in accordance with the control from the system controller described above.
The image (digital image) output from the switch 120 is converted into an analog signal by the D / A converter 121, returned to an image signal, and displayed on the display unit 122. As a result, the user can confirm the recorded image with substantially the same image quality as the reproduced image of the recorded image.
At this time, the image selected by the switch 120 is externally output from the display image external output terminal 123 (digital interface: terminal such as DIF). This makes it possible to transmit the image data and display it on an external device such as a high-definition monitor.
[0070]
The display of the locally decoded image on the display unit 122 as described above can be executed, for example, during recording of a captured image in the shooting mode or during recording standby.
In addition, after the user confirms the image quality of the local decoded image (recorded image) on the display unit 122, the user can reset the compression rate variable mode or the image quality priority mode by an operation unit (not shown), thereby performing desired compression. It is also possible to change the rate. In this case, according to this instruction, the rate control circuit 116 performs the quantization control as described above again.
[0071]
As described above, in the present embodiment, the local decoded image is acquired from the function of the MPEG encoder and displayed on the display unit 122, so that the recorded image can be recorded without complicating the circuit configuration. Thus, it is possible to confirm with substantially the same image quality as that of the reproduced image of the recorded image.
[0072]
(Second Embodiment)
In the first embodiment described above, the original image and the local decoded image are switched and displayed on the display unit 122. However, in the present embodiment, the original image and the local decoded image are combined. The displayed composite image is displayed on the display unit 122.
For this reason, as shown in FIG. 5, the image recording unit 100 according to the present embodiment replaces the switch 120 of the image recording unit 100 according to the first embodiment described above (see FIG. 1 above). 125 and a FIFO memory 124 for delaying the original image for a predetermined time.
In the image recording unit 100 in FIG. 5, the same reference numerals are given to the portions that operate in the same manner as the image recording unit in FIG. 1, and detailed description thereof is omitted.
[0073]
In the image recording unit 100 in the present embodiment as shown in FIG. 5 described above, the output (original image) of the camera signal processing circuit 103 is supplied to the FIFO circuit 124.
The FIFO circuit 124 supplies the output (original image) of the camera signal processing circuit 103 to the image composition circuit 125 after a predetermined time delay. This is because the local decoded image supplied from the adder 112 to the image composition circuit 125 is delayed from the original image by the time required for image processing in each circuit after being captured. As a result, the timing of the original image and the local decoded image is taken, and the image composition by the image composition circuit 125 is performed.
The FIFO circuit 124 is not an essential configuration in the present embodiment, and there is no problem even if the FIFO circuit 124 is not provided.
[0074]
The image synthesizing circuit 125 synthesizes the original image via the FIFO circuit 124 and the local decoded image from the adder 112 to generate a synthesized image.
The composite image obtained by the image composition circuit 125 is supplied to the display unit 122 via the D / A converter 121 and displayed on the display unit 122.
[0075]
6 and 7 show an example of a display screen on the display unit 122, that is, a composite image generated by the image composition circuit 125.
In FIG. 6, the original image and the local decode image are combined by thinning them to a predetermined size, and a composite image that can be displayed and compared as a recording image quality confirmation mode is displayed. It is an example of a case.
FIG. 7 shows an example in which an original image is displayed in a normal size, and a local decoded image (recorded image) that has been subjected to thinning processing is combined with a small screen on the screen (large screen). Note that the local decoded image may be displayed on the large screen, and the original image may be displayed on the small screen. By displaying such a composite image on the display unit 122, the user can easily confirm the image quality of the recorded image by comparing it with the image quality of the original image.
[0076]
(Third embodiment)
In the first and second embodiments described above, the present invention is applied to an image recording / reproducing apparatus using the MPEG system as an encoding system, and a local decoded image is acquired and displayed from the function of the MPEG encoder. However, in the present embodiment, when an arbitrary method is used as an encoding method and the present invention is applied to an image recording / reproducing apparatus in which an encoder and a decoder are individually provided, and an input image is compressed and recorded, A configuration is realized in which the image quality of the recorded image can be confirmed with almost the same image quality as that when the recorded image is reproduced.
[0077]
For this reason, the image recording unit of the image recording / reproducing apparatus in the present embodiment is configured as shown in FIG. 8, for example.
That is, the image recording unit 200 according to the present embodiment includes an imaging system 201 including a lens and a CCD, an A / D converter 202, a camera signal processing circuit 203, and an encoder that encodes an original image using a predetermined compression method. 204, a recording processing circuit 205 for performing recording processing on the encoded image, a recording medium 206, a reproduction processing circuit 207 for performing reproduction processing of the recorded image, and decoding of the image by a decoding method corresponding to the compression method of the encoder 204 A decoder 208, a switch 209, a D / A converter 210, a display unit 211 such as a liquid crystal display, a display image external output terminal 212, a system controller 213 for controlling the operation of the entire apparatus, and an operation instruction input unit 214. Yes.
Hereinafter, the image recording unit 200 in the present embodiment will be specifically described.
[0078]
[A series of operations from image encoding to recording]
[0079]
First, an image signal obtained by photographing with the imaging system 201 is digitized by an A / D converter 202 and supplied to a camera signal processing circuit 203.
The camera signal processing circuit 203 performs adjustment processing of luminance and color of image data from the A / D converter 202. The image data processed by the camera signal processing circuit 203 is supplied to the encoder 204.
[0080]
The encoder 204 encodes the image data from the camera signal processing circuit 203 based on a predetermined signature algorithm. As the compression method here, for example, a DV compression method adopted as a band signature method in home digital video, other standard image compression methods such as JPEG, or a device-specific image compression method, etc. Such a compression method can also be adopted.
The image data compressed by the encoder 204 is supplied to the recording processing circuit 205.
[0081]
The recording processing circuit 205 converts the image data from the encoder 204 into a format suitable for recording (format conversion), and then uses a recording head (not shown) to record the recording medium 206 such as a disk-shaped recording medium. Are recorded in a predetermined area.
[0082]
When the image recorded on the recording medium 206 is reproduced as described above, the recorded image on the recording medium 206 is read by a reproducing head (not shown). The read recorded image data is supplied to the reproduction processing circuit 207.
The reproduction processing circuit 207 performs a conversion process for returning the recording image data read by the reproduction head to the data before the format conversion in the recording processing circuit 205. The processed image data is supplied to the decoder 208.
[0083]
The decoder 208 decompresses the image data from the reproduction processing circuit 207, that is, the compressed image data by a method corresponding to the compression method in the encoder 204. The image data expanded in this way is displayed on the display unit 211 via a switch 209 and a D / A converter 210 which will be described later.
Further, the image data output from the D / A converter 210 is also supplied to the display image external output 212. This makes it possible to transmit the image data, and an external device such as a high-definition monitor. Display with is also possible.
[0084]
[Configuration to make it possible to check recorded images]
[0085]
As in the first and second embodiments described above, the most characteristic configuration of the present embodiment is substantially the same as the image when the recorded image is reproduced when the input image is compressed and recorded. The image quality of the recorded image can be confirmed with the image quality of.
Therefore, the image recording unit 200 is configured to execute the following configuration and operation.
[0086]
First, in order to realize image quality comparison between an original image and an image (local decoded image) that has been compressed → expanded (encoded → decoded), the image recording unit 200 directly connects the encoder 204 and the decoder 208. As a result, the compressed image data obtained by the encoder 204 is supplied to the recording processing circuit 205 and simultaneously to the decoder 208. The decoder 208 decompresses the image data from the encoder 201.
As described above, the image recording unit 200 directly connects the encoder 204 and the decoder 208 to immediately expand the compressed image data and acquire a local decoded image. This local decoded image (an image having substantially the same image quality as the reproduced image of the recorded image) is acquired in real time in parallel with the original image.
[0087]
The local decoded image obtained as described above is supplied to the switch 209.
[0088]
The switch 209 selectively outputs the output (original image) of the camera signal processing circuit 203 and the output (local decoded image) of the decoder 208 in accordance with control from the system controller 213.
An image (digital image) output from the switch 209 is converted into an analog signal by the D / A converter 210, converted back to an image signal, and displayed on the display unit 211. As a result, the user can confirm the recorded image with substantially the same image quality as the reproduced image of the recorded image.
[0089]
The display of the local decoded image on the display unit 211 as described above can be executed, for example, during recording of a captured image in the shooting mode or during recording standby.
[0090]
Even with the above-described configuration, the recorded image can be confirmed with substantially the same image quality as the reproduced image of the recorded image. That is, the present invention is not limited to an image recording / reproducing apparatus using the MPEG system, but can be applied to any image recording / reproducing apparatus using an arbitrary encoding system.
[0091]
In the third embodiment described above, a configuration such as the image composition circuit 125 in the second embodiment may be provided instead of the switch 209. As a result, a synthesized image obtained by synthesizing the original image and the local decoded image can be displayed on the display unit 211, and the user can easily compare the image quality of the original image with the image quality of the recorded image.
[0092]
In the third embodiment described above, the encoder 204 (and the corresponding decoder 208) uses a variable-length encoding scheme according to the compression rate specified by the user through the operation unit 214 (encoding rate). In the same manner as in the first and second embodiments, after the user confirms the image quality of the local decoded image (recorded image) on the display unit 211, the operation unit 214 compresses the image. It is also possible to change to a desired compression rate by resetting the rate variable mode or the image quality priority mode. In this case, the system controller 213 controls the compression rate in the encoder 204 in accordance with an instruction from the operation unit 214.
[0093]
Another object of the present invention is to supply a storage medium storing software program codes for realizing the functions of the host and terminal of each of the above-described embodiments to a system or apparatus, and the computer (or CPU) of the system or apparatus. Needless to say, this can also be achieved by reading and executing the program code stored in the storage medium.
In this case, the program code itself read from the storage medium implements the functions of the respective embodiments, and the storage medium storing the program code constitutes the present invention.
A ROM, floppy disk, hard disk, optical disk, magneto-optical disk, CD-ROM, CD-R, magnetic tape, nonvolatile memory card, or the like can be used as a storage medium for supplying the program code.
Further, by executing the program code read by the computer, not only the functions of the respective embodiments are realized, but also the OS or the like running on the computer based on the instruction of the program code performs the actual processing. It goes without saying that a case where the functions of the respective embodiments are realized by performing part or all of the above and the processing thereof is included.
Further, after the program code read from the storage medium is written to the memory provided in the extension function board inserted in the computer or the function extension unit connected to the computer, the function extension is performed based on the instruction of the program code. It goes without saying that the case where the CPU or the like provided in the board or function expansion unit performs part or all of the actual processing and the functions of the respective embodiments are realized by the processing.
[0094]
【The invention's effect】
As described above, in the present invention, since the original image and the image restored after encoding the original image are displayed side by side, the image quality before and after encoding of the original image can be compared. .
[0095]
Therefore, according to the present invention, it is possible to reliably and easily record an image in a state desired by the user.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a configuration of an image recording unit of an image recording / reproducing apparatus to which the present invention is applied in the first embodiment.
FIG. 2 is a diagram for explaining an encoding method (MPEG method) used in the image recording unit.
FIG. 3 is a diagram for explaining processing in an image rearrangement circuit of the image recording unit in the first embodiment.
FIG. 4 is a diagram for explaining the encoding order.
FIG. 5 is a block diagram showing a configuration of the image recording unit in the second embodiment.
FIG. 6 is a diagram for explaining an example (Example 1) of a display screen on the display unit of the image recording unit.
FIG. 7 is a diagram for explaining an example (Example 2) of a display screen on the display unit of the image recording unit.
FIG. 8 is a block diagram showing a configuration of an image recording unit of an image recording / reproducing apparatus to which the present invention is applied in the third embodiment.
[Explanation of symbols]
100 Image recording unit
101 Imaging system
102 A / D converter
103 Camera signal processing circuit
104 Image rearrangement circuit
105 switches
106 Subtractor
107 DCT circuit
108 Quantization circuit
109 Variable length coding circuit
110 Inverse quantization circuit
111 IDCT circuit
112 Adder
113 Motion Compensation Prediction Circuit
114 switch
115 buffers
116 Rate control circuit
117 recording media
118 switch
119 Fixed quantization table
120 switches
121 D / A converter
122 Display section
123 Display image output terminal
124 memory

Claims (3)

原画像データに対して少なくとも直交変換及び量子化処理を施すことによって、該原画像データを符号化する符号化手段であって、前記原画像データに含まれる画像と、既に符号化され復号化された画像との間で動き補償予測を行う動き補償予測部を有する符号化手段と、
前記符号化手段によって生成された符号化後の画像データに対して少なくとも逆量子化処理及び逆直交変換を施すことによって、前記符号化後の画像データを復号し、前記動き補償予測部で使用されるローカルデコード画像を生成する復号化手段と、
前記原画像データに含まれる原画像が前記復号化手段によって前記ローカルデコード画像として生成されるまでに前記原画像から遅れる時間分を調整するために少なくとも前記原画像データを遅延させる遅延手段と、
前記遅延手段によってタイミングが調整された前記原画像データと前記ローカルデコード画像のデータとを入力し、各画像が同一画面上に並べて表示されるように合成する合成手段と、
前記合成手段によって合成された画像データを表示部に供給する供給手段と、
を備えることを特徴とする画像処理装置。
Encoding means for encoding the original image data by performing at least orthogonal transformation and quantization processing on the original image data, and the image included in the original image data is already encoded and decoded. Encoding means having a motion compensated prediction unit for performing motion compensated prediction between the image and
The encoded image data generated by the encoding means is subjected to at least inverse quantization processing and inverse orthogonal transform to decode the encoded image data and used in the motion compensation prediction unit. Decoding means for generating a local decoded image;
Delay means for delaying at least the original image data in order to adjust a time delay from the original image until the original image included in the original image data is generated as the local decoded image by the decoding means;
A synthesizing unit that inputs the original image data whose timing is adjusted by the delay unit and the data of the local decoded image, and synthesizes the images so as to be displayed side by side on the same screen;
Supply means for supplying image data combined by the combining means to a display unit;
An image processing apparatus comprising:
前記符号化手段によって行われる量子化処理における量子化ステップを可変設定するモードと、固定設定するモードとを選択可能な選択手段を更に備えることを特徴とする請求項1に記載の画像処理装置。  The image processing apparatus according to claim 1, further comprising a selection unit capable of selecting a mode for variably setting a quantization step in a quantization process performed by the encoding unit and a mode for fixed setting. 被写体を撮像して前記原画像データを発生する撮像手段と、
前記撮像手段で発生した原画像データを前記符号化手段及び前記復号化手段を動作させて画像処理した前記符号化後の画像データを記録媒体に記録する記録手段と、
を更に備えることを特徴とする請求項1又は2に記載の画像処理装置。
Imaging means for imaging a subject and generating the original image data;
Recording means for recording on the recording medium the encoded image data obtained by operating the encoding means and the decoding means on the original image data generated by the imaging means;
The image processing apparatus according to claim 1, further comprising:
JP18898499A 1999-07-02 1999-07-02 Image processing device Expired - Fee Related JP4280363B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP18898499A JP4280363B2 (en) 1999-07-02 1999-07-02 Image processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP18898499A JP4280363B2 (en) 1999-07-02 1999-07-02 Image processing device

Publications (3)

Publication Number Publication Date
JP2001024919A JP2001024919A (en) 2001-01-26
JP2001024919A5 JP2001024919A5 (en) 2006-08-10
JP4280363B2 true JP4280363B2 (en) 2009-06-17

Family

ID=16233363

Family Applications (1)

Application Number Title Priority Date Filing Date
JP18898499A Expired - Fee Related JP4280363B2 (en) 1999-07-02 1999-07-02 Image processing device

Country Status (1)

Country Link
JP (1) JP4280363B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10986272B2 (en) 2017-03-03 2021-04-20 Panasonic Intellectual Property Management Co., Ltd. Image capturing device and captured image display method
US11649662B2 (en) 2017-03-29 2023-05-16 Panasonic Intellectual Property Management Co., Ltd. Car door monitoring system and car door monitoring method

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4574090B2 (en) * 2001-09-21 2010-11-04 三菱電機株式会社 Movie data converter and movie data conversion program
JP2006203594A (en) * 2005-01-21 2006-08-03 Sharp Corp Digital video recorder
JP2006311366A (en) * 2005-04-28 2006-11-09 Matsushita Electric Ind Co Ltd Image recorder and method for driving image recorder
JP2007159095A (en) 2005-11-14 2007-06-21 Olympus Imaging Corp Imaging apparatus
WO2007145004A1 (en) * 2006-06-13 2007-12-21 Panasonic Corporation Imaging apparatus
WO2009040918A1 (en) * 2007-09-27 2009-04-02 Panasonic Corporation Moving image coding apparatus, moving image coding method, and program
JP6907881B2 (en) * 2017-10-24 2021-07-21 オムロン株式会社 Image processing device, image processing program

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10986272B2 (en) 2017-03-03 2021-04-20 Panasonic Intellectual Property Management Co., Ltd. Image capturing device and captured image display method
US11649662B2 (en) 2017-03-29 2023-05-16 Panasonic Intellectual Property Management Co., Ltd. Car door monitoring system and car door monitoring method

Also Published As

Publication number Publication date
JP2001024919A (en) 2001-01-26

Similar Documents

Publication Publication Date Title
US7999859B2 (en) Digital camera for recording a still image while shooting a moving image
JP3787398B2 (en) Image processing apparatus and method
JP4280363B2 (en) Image processing device
JP3221785B2 (en) Imaging device
US20020113898A1 (en) Picture processing apparatus and method, and recording medium
US6968119B1 (en) Electronic camera with compression
JP2006324802A (en) Imaging apparatus
JP2007116635A (en) Imaging apparatus
JP2004357313A (en) Image information processing apparatus and image information processing method
JP3398138B2 (en) Image processing apparatus and image processing method
JP3877538B2 (en) Digital camera
JP4312070B2 (en) Digital camera
JP2005051810A (en) Digital camera
JP3398141B2 (en) Digital camera and image processing device
JP2009130561A (en) Imaging apparatus, control method of imaging apparatus and control program of imaging apparatus
KR101332299B1 (en) Image recording apparatus and method thereof
JP3132452B2 (en) Video decoding device
JP2006295492A (en) Image processing apparatus
JP4338726B2 (en) Image processing device
JP4338727B2 (en) Image processing device
JP4338725B2 (en) Image processing device
JP3877742B2 (en) Digital camera
JP2002165175A (en) Image-recording apparatus, image-reproducing apparatus and image-recording/reproducing apparatus
JPH1032791A (en) Recording device, reproduction device and signal processor
JP2008092503A (en) Imaging apparatus

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060623

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060623

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090310

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090316

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120319

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130319

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140319

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees