JP3783238B2 - 撮像システム、画像処理装置、符号化装置、符号化方法及びランダムノイズを除去する方法 - Google Patents
撮像システム、画像処理装置、符号化装置、符号化方法及びランダムノイズを除去する方法 Download PDFInfo
- Publication number
- JP3783238B2 JP3783238B2 JP50747697A JP50747697A JP3783238B2 JP 3783238 B2 JP3783238 B2 JP 3783238B2 JP 50747697 A JP50747697 A JP 50747697A JP 50747697 A JP50747697 A JP 50747697A JP 3783238 B2 JP3783238 B2 JP 3783238B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- macroblock
- gain
- circuit
- motion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/646—Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
- H04N19/43—Hardware specially adapted for motion estimation or compensation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/804—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
- H04N9/8042—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/21—Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
- H04N5/772—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
Description
本発明は、撮像装置に関し、動き補償により画像データをデータ圧縮して記録するカメラ一体型ビデオテープレコーダ等に適用して、撮像結果の利得制御に連動してノイズ抑圧レベルを可変することにより、利得を可変した場合でも、撮像結果に対するビット配分がノイズ成分に集中しないようにする技術に関する。
背景技術
従来、カメラ一体型ビデオテープレコーダ(「カムコーダ(camcoder)」とも呼ばれる。)等の撮像装置においては、操作部からカメラマンにより又は自動的にゲインアップ操作がされると、撮像結果を処理する信号処理ブロックにおいてゲイン(利得)を切り換えて信号処理するように形成され、これにより例えば照明の不足している被写体を確実に撮影出来るようになされている。
一方、近年において動画像の画像圧縮技術が開発され、例えばMPEG(Moving Picture Experts Group)等のような動画像符号化標準に規定されたデータ圧縮技術を適用することにより、画像信号を、例えばビットレートを約1/10程度にデータ圧縮して、例えばビデオテープ,相変化形光磁気ディスク,固定ディスク等の記録媒体に記録するものが提案されている。
この種のデータ圧縮技術は、連続するフレーム間、フィールド間で動き補償して得られる差分データをディスクリート・コサイン変換処理した後、量子化するように形成され、これより動き補償して残る差分データに対して記録に供するデータのビット配分を割り当て、この種の画像データの相関を有効に利用して効率よく画像データを記録している。カメラ一体型ビデオテープレコーダにおいても、この種のデータ圧縮技術を適用して、撮像結果をディジタル信号の形式で効率よく記録することが検討されている。
ところで、カメラ一体型ビデオテープレコーダのような撮像装置にこの種のデータ圧縮技術を適用した場合、ゲインアップした際のビット配分がランダムノイズに集中し、その分画質が劣化する問題がある。
即ち、この種のデータ圧縮技術においては、動き補償により連続するフレーム間で共通する成分を除去し、残る差分データを符号化することにより、効率よくデータ蓄積又は伝送するようになされている。これに対して、一般に、カメラ一体型ビデオテープレコーダのような撮像装置における撮像信号にはランダムにノイズが含まれ、ランダムノイズは連続するフレーム相互間で相関がないためノイズを「動き」と捉えられて、ここに多くのビットが割り当てられ、即ち、ビットが集中してしまう。
更に、このような撮像信号に対しゲインアップ操作がなされると、その分ノイズが増大してしまう欠点がある。特に、この種の撮像装置は、ガンマ補正することにより相対的に低輝度部分にランダムノイズが集中するように撮像結果が出力され、ゲインアップする時は、暗い被写体を撮影する場合が多いことにより、この低輝度部分のランダムノイズが著しく増大する。
従って、ゲインアップした状態で撮像結果を動き補償すると、その分差分データにおけるランダムノイズの信号成分が増大し、結果的に、記録に供するデータのビット配分がランダムノイズに集中するようになる。この結果、ゲインアップに伴うランダムノイズの増大による画質劣化だけでなく、必要なフレーム間の情報が伝送できなくなり、その分記録されたディジタル信号の画質処理が著しく劣化し、具体的には、映像部分に偽輪郭等が発生し易くなる。
この問題を解決する1つの方法として、ノイズ・リダクション・システムを適用してこの種のランダムノイズを除去する方法が考えられるが、単にノイズ・リダクション・システムを適用しただけでは、ゲインアップしない場合の解像度が劣化する問題がある。
本発明は、上述の問題を考慮してなされたもので、画像信号の利得を可変した場合でも、撮像結果に対するビット配分がノイズに集中しないようにすることが出来る撮像装置を提案することを目的とする。
更に、本発明は、利得を変化させた場合に、この利得の変化に連動してノイズを減少するようにすることが可能な撮像装置を提案することを目的とする。
発明の開示
本発明に斯る撮像システムは、撮像デバイスを備えた撮像システムであって、
(a)上記撮像デバイスから出力されたビデオデータのゲインを制御するゲイン制御手段と、
(b)上記ゲイン制御手段によってゲインが制御されたビデオデータのランダムノイズを抑圧するためのフィルタ手段と、上記フィルタ手段によってフィルタリングされたビデオデータを符号化する符号化手段とを有したビットレートエンコーダと、
(c)上記ビデオデータのゲインが、カメラマンによって指定されたゲインとなるように上記ゲイン制御手段を制御すると共に、上記フィルタ手段のフィルタリング特性が、上記指定されたゲインに対応したフィルタリング特性となるように上記フィルタ手段を制御するシステムコントローラとを備えている。
更に本発明に係る符号化装置は、ビデオデータをマクロブロックデータ単位で符号化する符号化装置であって、
(a)上記符号化されるビデオデータのゲインを符号化する符号化装置において、
(b)上記ゲイン制御手段によってゲインが制御されたビデオデータのノイズを抑圧するためのフィルタ手段と、上記フィルタ手段によってフィルタリングされたビデオデータを符号化する符号化手段とを有したビットレートエンコーダと、
(c)上記符号化されるビデオデータのゲインが、所望のゲインとなるように上記ゲイン制御手段を制御すると共に、上記フィルタ手段のフィルタリング特性が、上記所望のゲインに対応したフィルタリング特性となるように上記フィルタ手段を制御する制御手段とを備えている。
更に本発明に係るビデオデータをマクロブロック単位で符号化する符号化方法は、
(a)上記符号化されるビデオデータが所望のゲインとなるようにゲインを制御するステップと、
(b)上記所望のゲインに対応したフィルタリング特性となるようにフィルタリング特性が可変させられたフィルタ手段によって、上記ゲイン制御されたビデオデータをフィルタリングすることによってノイズを抑圧するステップと、
(c)上記フィルタリングされたビデオデータを符号化するステップを含む方法である。
更に本発明に係る画像処理装置は、画像データのゲインを任意のゲインに制御するゲイン制御手段と、
前記画像データを動画像圧縮標準にしたがってデータ圧縮するビット・レート・エンコーダ手段とを備えた撮像装置において、
画像データの相関を利用し、該画像データをフィルタリングすることによって、該画像データに含まれるランダムノイズを抑圧するフィルタ回路を設け、該フィルタ回路は前記ゲインに連動して該フィルタ回路のフィルタリング特性を変化させている。
更に本発明に係る画像処理装置は、撮像ブロックと、信号処理ブロックと、記録再生ブロックとを有した撮像装置において、
撮像データのゲインを任意に切換可能なゲイン制御手段と、
撮像データのフィルタリングを行うフィルタ回路と、
撮像データのデータ圧縮を行うデータ圧縮手段とをもち、
前記フィルタリングは前記ゲインの切り換えに連動して該フィルタ回路のフィルタリング特性を変更して、上記撮像データに含まれるランダムノイズを減少している。
更に本発明に係るランダムノイズを除去する方法は、画像データのゲインを任意に切り換えるステップと、
所定の画像データから、前記ゲインの切り換えに連動して、可変されるフィルタリング特性を有したフィルタ手段によって、フィルタリングデータを生成するステップと、
フィルタリングされた画像データを画像圧縮するステップと、
画像圧縮された前記画像データを記録するステップとを含む画像データに含まれるランダムノイズを除去している。
【図面の簡単な説明】
第1図は、本実施例に係るカメラ一体型ビデオテープレコーダの撮像装置の要部を示す図である。
第2図は、第1図に示すビットレート・エンコーダの構成を示す図である。
第3図は、画像の3つのタイプを説明する図である。
第4図は、第2図に示す動き検出回路の詳細を示す図である。
第5図は、第2図に示すフィルタ回路の詳細を示す図である。
発明を実施するための最良の形態
本発明に係る撮像装置の実施形態に付いて、カメラ一体型ビデオテープレコーダを例にとり、添付図面を参照しながら詳細に説明する。なお、図面上、同一の要素に関しては同じ符号を付して、重複した説明を省略する。
〔撮像装置の要部の構成 第1図〕
先ず、第1図を参照しながら、本実施形態のカメラ一体型ビデオテープレコーダに使用されている撮像装置の要部の構成を説明する。この撮像装置は、入射光を撮像装置の前面に光学的に集光するためのレンズブロック1と、レンズブロック1からの入射光をR(赤),G(緑),B(青)の電気的な撮像信号に変換する撮像ブロック2と、撮像信号に対して所定の信号処理を行う信号処理ブロック3と、記録再生ブロック4と、これらレンズブロック,撮像ブロック,信号処理ブロック及び記録再生ブロックを制御するシステム・コントローラ5とを備えている。
(レンズブロック)
レンズブロック1は、カメラ一体型ビデオテープレコーダ等の本体に対して着脱可能に設けられる。このレンズブロックは、図示していないが、光学的な要素として、光軸に沿って移動させることによって、結像点の位置を同一平面に保ったまま、全体の焦点距離を連続的に変更可能とし、被写体の像をズーミング(画像の連続的な拡大,縮小)するためのズームレンズと、被写体に対して焦点調節するためのフォーカスレンズと、開口の直径を変えること(虹彩絞り)によって撮像素子の前面に入射する光量を調節するアイリス機構とを有している。
同様に図示していないが、レンズブロック1は、更に、ズームレンズの光軸方向のレンズ位置を検出する位置検出検出センサと、ズームレンズを光軸方向に移動させるための駆動モータと、駆動モータに駆動制御信号を与えるためのズームレンズ駆動回路と、フォーカスレンズの光軸方向のレンズ位置を検出する位置検出センサと、フォーカスレンズを光軸方向に移動させるための駆動モータと、駆動モータに駆動制御信号を与えるためのフォーカスレンズ駆動回路と、アイリス機構の開口位置を検出する位置検出センサと、アイリス機構を開口及び閉口させるための駆動駆動モータと、駆動モータに駆動制御信号を与えるためのアイリス機構駆動回路とを有している。
ここで、位置検出センサの検出信号は、常時、システム・コントローラ5に送られると共に、ズームレンズ駆動回路、フォーカスレンズ駆動回路と、アイリス機構駆動回路は、システム・コントローラ5から制御信号が供給されるように電気的に接続されている。
(撮像ブロック)
撮像ブロック2は、レンズブロック1からの入射光をR,G,Bの3原色光に色分解するための色分解プリズム11と、この色分解プリズム11で分離されたR成分,G成分及びB成分の各光が撮像面に結像され、結像された各色成分の撮像光を、電気的な撮像信号(R),(G)及び(B)に夫々変換して出力する撮像素子12R,12G,12Bとを有している。例えば、これら撮像素子12R,12G,12Bは、CCD(電荷結合素子)からなる。
撮像ブロック2は、更に、撮像素子12R,12G,12Bから夫々出力された撮像信号(R),(G),(B)のレベルを増幅すると共に、これによってリセット雑音を除去するために相関二重サンプリングを行うプリアンプ13R,13G,13Bを有している。
更に、撮像ブロック2は、内部に設けられた基準クロック発生回路からの基準クロックに基づいて、撮像装置内の各回路要素が動作する際の基本クロックとなるVD信号,HD信号及びCLK信号を発生するためのタイミング信号発生回路15と、タイミング回路発生回路15から供給されたVD信号,HD信号及びCLK信号に基づいて、撮像素子12R,12G及び12Bに対して駆動クロックを与えるCCD駆動回路14とを有している。
尚、VD信号は一垂直期間を表すクロック信号であり、HD信号は一水平期間を表すクロック信号であり、CLK信号は一画素クロックを表すクロック信号であり、これらのVD,HD及びCLK信号からなるタイミングクロックは、図示していないが、システム・コントローラ5を介して、撮像装置の各回路要素に対し供給される。
(信号処理ブロック)
信号処理ブロック3は、撮像装置本体の内部に設けられ、撮像ブロック2から供給される撮像信号(R),(G),(B)に対して所定の信号処理を施すためのブロックである。信号処理ブロック3は、撮像信号(R),(G),(B)をアナログ形式からディジタル形式のビデオ信号(R),(G),(B)に夫々変換するA/D変換回路21R,21G及び21Bと、システム・コントローラ5からのゲイン切換信号に基づいて、ディジタル・ビデオ信号(R),(G),(B)の各ゲインを夫々制御するゲイン制御回路22R,22G及び22Bと、ディジタルビデオ信号(R),(G),(B)に対して所定の信号処理を行う信号処理回路23R,23G,23Bと、色信号であるビデオ信号(R),(G),(B)から輝度信号Y及び色差信号(R−Y),(B−Y)を生成するマトリクス・エンコーダ24と、これら輝度信号及び色差信号Y,(R−Y),(B−Y)をデータ圧縮するビット・レート・エンコーダ31とを備えている。
ここで、ゲイン制御回路22R,22G,22Bは、各々、図示していないが、利得の異なる複数個の増幅器とこれら増幅器の出力を選択的に切り換えるゲイン切り換え回路とを有し、赤色,緑色,青色の色信号(R),(G),(B)を夫々選択的に増幅する。即ち、ゲイン制御回路22R,22G,22Bは、各々、図に示していないが、例えば+O〔dB〕,+6〔dB〕,+9〔dB〕,+12〔dB〕,+18〔dB〕,+24〔dB〕,+3O〔dB〕の利得の異なる複数個の増幅器を有し、各増幅器の出力をゲイン切り換え回路に入力し、システム・コントローラ5より出力されるゲイン切換信号に対応して、利得の異なる増幅器からの増幅結果を選択的に出力する。こうしてカメラ一体形ビデオテープレコーダでは、カメラマンが必要に応じて撮影結果をゲインアップすることが出来るようになっている。
信号処理回路23R,23G,23Bは、例えば、ビデオ信号の或るレベル以上を圧縮(白圧縮)するニー回路231R,231G,231Bと、ビデオ信号のレベルを予め設定されたγカーブ(非線形特性)にしたがって補正するγ補正回路232R,232G,232Bと、所定レベル以下の黒レベル及び所定レベル以上の白レベルをクリップするB/Wクリップ回路233R,233G,233Bとをもっている。
尚、信号処理回路23R,23G,23Bは、これらニー回路,γ補正回路,B/Wクリップ回路のほかに、図示していないが、公知のブラックγ補正回路,輪郭強調回路,リニアマトリクス回路等を備えていてもよい。
更に、信号処理ブロック3は、信号処理回路23R,23G,23Bから出力されたビデオ信号(R),(G),(B)を夫々受け取り、その信号レベルに基づいて撮像素子12R,12G,12Bに入射する光量が適切な光量となるようにアイリスを制御するアイリス制御回路25と、信号処理回路23R,23G,23Bから出力されたビデオ信号(R),(G),(B)を受け取り、その信号レベルに基づいてホワイトバランス制御を行うためのホワイトバランス制御回路26とを備えている。
アイリス制御回路25は、供給されたビデオ信号(R),(G),(B)の中でも最も信号レベルが最大である信号を選択するNAM回路と、選択された信号の画面におけるエリアを分割して、各エリア毎におけるビデオ信号を全積分する回路をもっている。アイリス制御回路25は、この各エリア毎の積分データに基づいて複写体の逆照明,順照明,フラット照明,スポット照明等のあらゆる照明条件を判断して、アイリスを制御するためのアイリス制御信号を生成し、このアイリス制御信号をシステム・コントローラ5に送出する。システム・コントローラ5は、このアイリス制御信号に基づいて、レンズブロック1のアイリス駆動回路(図示せず。)に対して制御信号を供給する。
ホワイトバランス制御回路26は、供給されたビデオ信号(R),(G),(B)から、(R−Y)=0,(B−Y)=0となるようにホワイトバランス制御信号を生成し、このホワイトバランス制御信号をシステム・コントローラ5に送出する。システム・コントローラ5は、このホワイトバランス制御信号に基づいて、ゲイン制御回路22R,22G,22Bに対して、ゲイン切換信号を供給する。
更に、信号処理ブロック2は、信号処理回路23R,23G,23Bから出力されたビデオ信号(R),(G),(B)を受け取り、ビデオ信号(R),(G),(B)から輝度信号(Y)と、色差信号(R−Y),(B−Y)を生成するためのマトリクス・エンコーダ24とを備えている。
マトリクス・エンコーダ24の後段のビット・レート・エンコーダ31において、データの圧縮が行われるが、この画像圧縮技術に関しては、第2図を用いて後で説明する。
(記録再生ブロック)
記録再生ブロックは記録/再生部33を有し、この記録/再生部33は、本実施例のようにカメラ一体型ビデオテープレコーダの場合にはビデオテープレコーダであり、また、その他の撮像装置の場合には、例えば光磁気ディスク駆動装置,固定ディスク装置等であってよい。
[ビット・レート・エンコーダ 第2図及び第3図]
(構成)
第2図は、第1図に示したビット・レート・エンコーダ31の詳細を示す図である。ビット・レート・エンコーダ31は、フレームメモリ(FM)311,312及び313と、セレクタ314と、フィルタ回路315と、動き検出ブロックと、動き補償ブロックと、加算回路316と、インター/イントラ判定回路323と、スイッチ317と、圧縮符号化ブロックと、エンコーダ・コントローラ338とを備えている。
ここで、動き検出ブロックは、動き検出回路327と、動き検出回路334とを有する。
また、動き補償ブロックは、逆量子化回路324と、IDCT(Inverse Discrete Cosine Transform逆離散的コサイン変換)回路331と、加算回路330と、スイッチ329と、フレームメモリ328及び335と、動き補償回路326及び333と、重み付け回路336と、合成回路337と、スイッチ325とを有する。
また、圧縮符号化ブロックは、DCT(Discrete Cosine Transform離散的コサイン変換)回路318と、量子化回路319と、VLC(Variable Length Code可変長符号)エンコーダ320と、符号化回路321とを有する。
ビット・レート・エンコーダ31に付いて具体的に説明すると、ビット・レート・エンコーダ31は、入力端子310を介して供給される画像データを順次蓄積するためのフレームメモリ311,312及び313と、これらフレームメモリ311,312及び313からの各出力を、エンコーダ・コントローラ338からの制御信号により符号化される画像データを選択的に出力するセレクタ314と、ノイズを減少するため符号化される画像データをフィルタ処理するフィルタ回路315と、動き検出を行って動きベクトルデータを得る動き検出ブロックと、この動き検出ブロックにおいて求められた動きベクトルデータに基づいて動き補償処理を行う動き補償ブロックと、フィルタ回路315からの16ライン×16画素の大きさのマクロブロックデータと上記動き補償ブロックからの動き補償処理後の16ライン×16画素の大きさのマクロブロックデータとの差分を得る加算回路316と、フィルタ回路315からのマクロブロックデータ若しくは加算回路316からの差分データを選択するインター/イントラ判定回路323と、このインター/イントラ判定回路323の制御により、フィルタ回路315からのマクロブロックデータ若しくは加算回路316からの差分データを選択するスイッチ317と、このスイッチ317からの出力を圧縮符号化する符号化ブロックと、上記各構成要素を夫々制御するエンコーダ・コントローラ338とを備えている。
(フレームメモリ)
画像データが入力端子310を介して順次入力される。この入力データは、順次フレームメモリ311に記憶され、次の1フレーム期間にフレームメモリ311から読み出した画像データは順次フレームメモリ312に記憶され、次の1フレーム期間にフレームメモリ312から読み出した画像データは順次フレームメモリ313に記憶される。3フレーム分の時間の経過後、フレームメモリ313には第1フレームの画像データが、フレームメモリ312には第2フレームの画像データが、フレームメモリ311には第3フレームの画像データが、夫々記憶されている。従って、フレームメモリ312の出力を、カレント(現在)フレームの画像データとすると、フレームメモリ311の出力は時間的に後なのでフューチャ(「未来」)のフレームの画像データ、フレームメモリ313の出力はパースト(「過去」)フレームの画像データということになる。
(セレクタ回路)
セレクタ回路314は、フレームメモリ311,312及び313からの出力を、エンコーダ・コントローラ338からの制御信号により選択的に出力するのであるが、ここでは説明の便宜上、符号化の対象をフレームメモリ312に蓄積されたカレント(現在)フレームとし、このカレントフレームのマクロブロックデータを、後段のフィルタ回路315に対し順次供給するものとする。
(フィルタ回路)
フィルタ回路315は、ノイズを減少する目的で設けられている。即ち、従来技術の問題点で指摘したように、動画像圧縮技術を採用した場合には、動き補償を行った時、画像データのランダムノイズを動きと捉えて、ここに多くのビットが割り当てられてしまう。更に、このような撮像データに対してゲインアップ操作がなされると、その分ノイズが増大してしまう欠点がある。このフィルタ回路315は、このような場合でも、ランダムノイズを減少するように、ローパスフィルタと同様の働きをする。
尚、フィルタ回路315は、その入力として、カレント(現在)フレームのマクロブロックデータMB(C)のほか、動き補償されたパースト(過去)フレームのマクロブロックデータMB(P)及び動き補償されたフューチャ(未来)フレームのマクロブロックデータMB(F)を使用するため、これらが生成される画像圧縮過程を先に説明し、その後で第5図を参照しながらフィルタ回路315に付いて説明する。ここでは、フィルタ回路315に対して、カレント(現在)フレームのマクロブロックデータMB(C),動き補償されたパースト(過去)フレームのマクロブロックデータMB(P)及び動き補償されたフューチャ(未来)フレームのマクロブロックデータMB(F)が供給され、フィルタリングされた、結果的にランダムノイズが減少したカレント(現在)フレームのマクロブロックデータMB′(C)が出力されるものと理解されたい。
(圧縮符号化ブロック)
圧縮符号化ブロックは、スイッチ317からのマクロブロックデータMB′(C)若しくは差分データを、8ライン×8画素のブロック単位で直流成分から高次交流成分の係数に変換するDCT回路318と、このDCT回路318からの係数データを所定の量子化ステップサイズで量子化する量子化回路319と、この量子化回路319からの係数データをランレングス,ハフマン等の方法により可変長符号化するVLCエンコーダ320と、このVLCエンコーダ320からの可変長符号化されたデータを記録若しくは伝送のためにインナーパリティ及びアウターパリティを付加して積符号形式にする符号化回路321とを有する。
量子化回路319は、このDCT変換回路318より得られる係数データを量子化して出力し、この時符号化制御によりこの量子化のテーブルを切換える。この種の符号化制御においては、符号化処理結果のデータ量に応じてこの量子化テーブルを切換えることにより、各符号化単位(例えば、マクロブロック,スライス単位でなる)でデータ量を規定値に保持するようになされている。従って、予め適当な処理において又はディスクリートコサイン変換処理においてランダムノイズにより発生する高次の係数が軽減されれば、その分ノイズ以外の本来の画像データに対して充分なビット配分を確保することができ、これにより画質劣化を有効に回避することが出来る。
(動き検出ブロック)
動き検出ブロックは、フレームメモリ311からのフューチャ(未来)フレームのマクロブロックデータMB(F)とフレームメモリ312からのカレント(現在)フレームのマクロブロックデータMB(C)とにより、動き検出を行って動きベクトルデータを得る動き検出回路327と、フレームメモリ313からのパースト(過去)フレームのマクロブロックデータMB(P)とフレームメモリ312からのカレント(現在)フレームのマクロブロックデータMB(C)とにより、動き検出を行って動きベクトルデータを得る動き検出回路334とを有する。
(動き補償ブロック)
動き補償ブロックは、量子化回路319からの係数データを逆量子化してDCT回路318による係数データを得る逆量子化回路324と、この逆量子化回路324からの係数データを元のマクロブロックデータ若しくは差分データに変換するIDCT回路331と、このIDCT回路331からの出力と動き補償済みのマクロブロックデータを加算する加算回路330と、この加算回路330の出力とIDCT回路331の出力を、インター/イントラ判定回路323からのスイッチング制御信号に基づいてフレームメモリ328に供給するスイッチ329と、このスイッチ329からの出力を記憶領域に記憶するフレームメモリ328と、このフレームメモリ328から読み出されたマクロブロックデータを順次記憶するフレームメモリ335と、動き検出回路327からの動きベクトルデータに基づいてフレームメモリ328に記憶されているフレームデータから適切なマクロブロックデータを選択し、この選択したマクロブロックデータを動き補償済みのマクロブロックデータとして出力する動き補償回路326と、動き検出回路334からの動きベクトルデータに基づいてフレームメモリ335に記憶されているフレームデータから適切なマクロブロックデータを選択し、この選択したマクロブロックデータを動き補償済みのマクロブロックデータとして出力する動き補償回路333と、動き補償回路326及び333の動き補償済みのマクロブロックデータに対し夫々現在(カレント)フレームとの時間的距離に応じた重み付けを行う重み付け回路336と、この重み付け回路336により重み付けされた2つのマクロブロックデータを合成する合成回路337と、動き補償回路326からの動き補償済みのマクロブロックデータ,動き補償回路333からの動き補償済みのマクロブロックデータ及び合成回路337からの合成マクロブロックデータをエンコーダ・コントローラ338からのスイッチング制御信号により選択的に出力するスイッチ325とを有している。
ここで、インター/イントラ判定回路323は、フィルタ回路315からのマクロブロックデータ及び加算回路316からの差分データの分散値等を比較し、その分散値の小さい方を選択するよう制御する。
また、動き補償回路326は、フィルタ回路315から出力されるカレントフレームのマクロブロックよりも時間的に後つまり未来のフレームのマクロブロックデータMB(F)に対して動き補償処理を施すものである。動き補償回路333は、フィルタ回路315から出力されるカレントフレームのマクロブロックよりも、時間的に前つまり過去のフレームのマクロブロックデータMB(P)に対して動き補償処理を施すものである。
また、重み付け回路336及び合成回路337は、動き補償回路326及び333からの補償後の2つのマクロブロックデータに重み付けをし合成することにより、フィルタ315から出力されるカレントフレームのマクロブロックよりも、時間的に未来及び過去のマクロブロックデータMB(F),MB(P)に対して夫々動き補償を施し、補償処理を施した2つのマクロブロックデータの合成マクロブロックデータを得ることと等価な処理を行うものである。
フィルタ315から順次出力されるカレントフレームのマクロブロックデータMB′(C)は、加算回路316において上記3つの系のいずれかの出力(即ち、補償済みのマクロブロックデータ)と差分が取られることによって符号化される。加算回路316からの差分データは、フレーム間の差分であり、このフレーム間の差分データが符号化されるので、これをフレーム間符号化(インター符号化)と呼び、また、セレクタ314からの出力はそのまま符号化されるので、これをフレーム内符号化(イントラ符号化)と呼ぶ。
(Iピクチャ,Bピクチャ,Pピクチャ)
セレクタ314から出力され、符号化される各フレームの画像データは、その符号化形態に応じて、一般に、Iピクチャ(Intra-Pictueフレーム内符号化画像)、Bピクチャ(Bidirectionally predictive-Picture双方向予測符号化画像)、又は、Pピクチャ(Predictive-Pictureフレーム間順方向予測符号化画像)と称される。
ここで、「Iピクチャ」は、フィルタ回路315から出力されるカレント(現在)フレームのマクロブロックデータMB′(C)をフレーム内符号化したデータからなる1フレーム分の符号化後の画像データである。ここでいう符号化とは、DCT回路318,量子化回路319及びVLCエンコーダ320による符号化のことである。従って、Iピクチャに場合には、インター/イントラ判定回路323の制御により、スイッチ317及び329の可動接点cは、必ず固定接点aに夫々接続される。なお、ここでいうカレント(現在)フレームとは、セレクタ314からフィルタ回路315を介して出力されそのまま符号化(フレーム内符号化)されるか、差分が取られて符号化(フレーム間符号化)されるマクロブロックデータを意味する。
「Pピクチャ」は、フィルタ回路315から出力されるカレント(現在)フレームのマクロブロックデータMB′(C)と、カレントフレームのマクロブロックデータMB′(C)に対し時間的に前のフレームとなる、I若しくはPピクチャの動き補償済みのマクロブロックデータとの差分データを符号化(フレーム間符号化)したデータや、カレントフレームのマクロブロックデータをフレーム内符号化したデータからなる1フレーム分の符号化後の画像データである。但し、Pピクチャを生成する時に、Iピクチャとしての画像データに対して動き補償を行うための動きベクトルデータは、ビット・レート・エンコーダ31に入力された順序で見て、Pピクチャとして符号化すべき画像データと、この画像データの1つ前の画像データとで求められたものとなる。
「Bピクチャ」は、フィルタ回路315から出力されるカレント(現在)フレームのマクロブロックデータMB′(C)と、次に示す6種類のマクロブロックデータとの差分データを、符号化(フレーム間符号化)したデータである。
6種類のマクロブロックデータは、フィルタ回路315から出力されるカレント(現在)フレームのマクロブロックデータMB′(C)と、カレントフレームのマクロブロックデータに対し、時間的に過去のフレームとなる、I若しくはPピクチャの動き補償済みのマクロブロックデータ、フィルタ回路315から出力されるカレント(現在)フレームのマクロブロックデータMB′(C)と、カレントフレームのマクロブロックデータMB′(C)に対し、時間的に未来のフレームとなる、I若しくはPピクチャの動き補償済みのマクロブロックデータ、フィルタ回路315から出力されるカレントフレームのマクロブロックデータMB′(C)に対し、時間的に過去のフレームとなるIピクチャと、時間的に未来のフレームとなるPピクチャとから生成される補間マクロブロックデータ、フィルタ回路315から出力されるカレント(現在)フレームのマクロブロックデータMB′(C)に対し、時間的に過去フレームとなるPピクチャと、時間的に未来のフレームとなるPピクチャとから生成される補間マクロブロックデータである。
以上の説明から分かるように、Pピクチャは、カレント(現在)フレーム以外の画像データが用いられて符号化されたデータ、即ち、フレーム間符号化されたデータを含み、また、Bピクチャは、フレーム間符号化されたデータのみで構成されるものであるから、単独では復号化することは出来ない。そこで、周知なように、関連する複数枚のピクチャを1つのGOP(Group OF Pictures)とし、このGOPを単位として処理するよう規定されている。
通常、GOPは、1又は複数枚のIピクチャと、ゼロ又は複数枚の非Iピクチャとで構成される。以下の例では、説明の便宜上、1つのGOPが、Iピクチャ,Pピクチャ及び2つのBピクチャで構成されているものとする。
また、以下の説明においては、BピクチャはこのBピクチャの前後の画像データとの差分が取られることによって得られ、PピクチャはIピクチャから得られるものとして説明する。実際は、エンコード時には、上述した前方向動き補償,双方向動き補償及び後方向動き補償において補償された補償マクロブロックデータの内、最も符号化効率の良いマクロブロックデータが選択され、デコード時には、エンコード時の補償と同じ補償がマクロブロック単位で行われる。つまり、1つのBピクチャ内の差分データは、前方向動き補償,双方向動き補償及び後方動き補償の何れかの動き補償により補償された補償マクロブロックデータが、符号化すべきマクロブロックデータから減算されたデータとなり、1つのPピクチャ内の差分データは、前方動き補償若しくは後方動き補償の何れかの動き補償により補償された補償マクロブロックデータが、符号化すべきマクロブロックデータから減算されたデータとなる。
(エンコード時の動作)
次に、第2図に示したビット・レート・エンコーダの動作に付いて説明する。
入力端子310に供給される画像データは、フレームメモリ311,312及び313に順次記憶される。動き検出回路327は、フレームメモリ311からのフューチャフレーム・マクロブロックデータMB(P)と、フレームメモリ312からのカレントフレーム・マクロブロックデータMB(C)とに基づいて動き検出を行い、その結果得られた動きベクトルデータを動き補償回路326に供給する。一方、動き検出回路334は、フレームメモリ313からのパーストフレーム・マクロブロックデータMB(P)と、フレームメモリ312からのカレントフレーム・マクロブロックデータMB(C)とに基づいて動き検出を行い、その結果得られた動きベクトルデータを動き補償回路333に供給する。以上のようにして、各動き検出回路327及び334において、マクロブロックデータ毎に動きベクトルデータが得られる。
カレントフレームの全てのマクロブロックデータMB(C)とパーストフレームの全てのマクロブロックデータMB(P)との間の動きベクトルを示す動きベクトルデータと、カレントフレームの全てのマクロブロックデータMB(C)とパーストフレームの全てのマクロブロックデータMB(P)との間の動きベクトルを示す動きベクトルデータとが得られると、符号化処理にはいる。
(符号化処理)
ここで、第3a図及び第3b図も参照しながら、フィルタ回路315から出力されたマクロブロックデータMB′(C)が、どのようにして符号化されるかに付いて説明する。
第3a図は入力端子310に供給されるフレーム毎の画像データを示し、第3b図はフィルタ回路315から出力されるフレーム毎の画像データを示している。各フレームとしての図形内に示す符号の内、数字は入力される順序を示し、英文字は、「B」ならばそのフレームの画像データが符号化されてBピクチャとなり、「I」ならば符号化されてIピクチャとなり、「P」ならば符号化されてPピクチャとなることを意味している。
ここで、矢印で示す画像データは、符号化される画像データを示し、矢印の根元の画像データは、符号化される画像データの符号化時に用いられる画像データを示す。つまり、第3a図中に示す矢印は、各矢印で示される各フレームの画像データが符号化される際に、どのフレームの画像データが予測画像として用いられるかを示している。例えば、符号化されてBピクチャとなる第3フレームの画像データは、符号化されてIピクチャとなる第2フレームの画像データと、符号化されてPピクチャとなる第4フレームの画像データの片方、若しくはこれら2つの画像データの合成画像データと差分がとられて符号化される。なお、Pピクチャについては、予測画像として用いられるフレームを示すための矢印を省略する。
さて、第3a図及び第3b図の内、GOP2内のフレームを例にとって説明するが、前提として、第2図に示したフレームメモリ335には、第3a図に示す画像データB5の予測画像として用いられる画像データP4が記憶されているものとし、更に、説明の便宜上、符号化してBピクチャを得る場合は、常に、合成回路337からの予測画像データが用いられるものとする。
まず最初に符号化される画像データはI6である。第3b図に示すように、画像データI6は、カレントマクロブロックデータMB(C)としてマクロブロックデータ毎に、セレクタ314から(フィルタ回路315を介して)順次出力される。この時、スイッチ317及び329の各可動接点cは、イントラ側の固定接点aに夫々接続されている。従って、画像データI6のマクロブロックデータは、スイッチ317を通過した後、DCT回路318,量子化回路319,VLCエンコーダ320及び符号化回路321において順次処理された後、出力端子322を介して出力される。
一方、量子化回路319において量子化された画像データI6の係数データは、逆量子化回路324及びIDCT回路331によって、元の8ライン×8画素の大きさのマクロブロックデータに戻された後、スイッチ329を介してフレームメモリ328に供給され、このフレームメモリ328に順次記憶される。
フレームメモリ335に画像データP4が記憶され、フレームメモリ328に画像データI6が記憶されていることになる。セレクタ314から画像データB5が出力される前の段階においては、フレームメモリ311にはフューチャフレームとして画像データI6が記憶され、フレームメモリ312にはカレントフレームとして画像データB5が記憶され、フレームメモリ313にはパーストフレームとして画像データP4が記憶されている。
この時、動き検出回路327においては、フレームメモリ312に記憶されている画像データB5の各マクロブロックと、フレームメモリ311に記憶されている画像データI6の各マクロブロックとで動き検出が行われ、画像データB5の各マクロブロックが、夫々画像データI6のどの部分(マクロブロックデータ)に一致するかを示す動きベクトルデータが得られる。これらのマクロブロック毎の動きベクトルデータは、動き補償回路326において、フレームメモリ328に記憶される画像データI6の内の対応するマクロブロックデータを順次読み出す、即ち、動き補償を行うために用いられる。
一方、動き検出回路334においては、フレームメモリ312に記憶されている画像データB5の各マクロブロックと、フレームメモリ313に記憶されている画像データP4の各マクロブロックとで動き検出が行われ、画像データB5の各マクロブロックが、夫々画像データP4のどの部分(マクロブロックデータ)に一致するのかを示す動きベクトルデータが得られる。これらのマクロブロック毎の動きベクトルデータは、動き補償回路333において、フレームメモリ335に記憶される画像データP4の内の対応するマクロブロックデータを順次読み出す、即ち、動き補償を行うために用いられる。
さて、セレクタ314から、カレントマクロブロックデータMB(C)として出力された画像データB5は、フィルタ回路315に供給される。この時、フィルタ回路315には、動き補償回路326によって動き補償された画像データI6が、動き補償されたフューチャマクロブロックデータMB(F)として供給されると共に、動き補償回路333によって動き補償された画像データP4が、動き補償されたパーストマクロブロックデータMB(P)として供給される。フィルタ回路315は、カレントマクロブロックデータMB(C)を、動き補償されたフューチャマクロブロックデータMB(F)と動き補償されたパーストマクロブロックデータMB(P)とに基づいてフィルタリング処理し、カレントマクロブロックデータMB(C)のランダムノイズを低減する。このフィルタ回路315の構成及び動作に関しては後で詳しく説明する。
次に、フィルタ回路315から、フィルタリングされた画像データB5のマクロブロックデータMB′(C)が出力されるのに伴い、合成回路337から、動き補償回路326からの動き補償済みの画像データI6のマクロブロックデータMB(F)と、動き補償回路333からの動き補償済みの画像データP4のマクロブロックデータMB(P)との合成マクロブロックデータが出力され、この合成マクロブロックデータがスイッチ325を介して加算回路316に供給される。従って、加算回路316において、画像データB5のマクロブロックデータから、合成マクロブロックデータが減算される。この減算によって得られた差分データは後段の各階路によって符号化される。以上の処理は、画像データB5の全マクロブロックデータに対して行われる。
次に符号化されるのは、画像データP8である。セレクタ314から画像データP8が出力される前の段階において、フレームメモリ311には画像データP8が記憶され、フレームメモリ312には画像データB7が記憶され、フレームメモリ313には画像データI6が記憶されている。
この場合、動き検出回路327においては、フレームメモリ312に記憶されている画像データB7の各マクロブロックと、フレームメモリ311に記憶されている画像データP8の各マクロブロックとで動き検出が行われ、画像データB7の各マクロブロックが、夫々画像データP8のどの部分(マクロブロックデータ)に一致するのかを示す動きベクトルデータが得られる。これらのマクロブロック毎の動きベクトルデータは、動き補償回路326において、フレームメモリ328に記憶されている画像データI6の内の対応するマクロブロックデータを順次読み出す、即ち、動き補償を行うために用いられる。ここで注意すべきことは、画像データP8とB7で得られた動きベクトルデータに基づいて、画像データI6のマクロブロックデータが補償されることである。
さて、セレクタ314から、カレントマクロブロックデータMD(C)として出力された画像データP8は、フィルタ回路315に供給される。この時、フィルタ回路315には、動き補償回路326によって動き補償された画像データI6が、動き補償されたフューチャマクロブロックデータMB(F)として供給される。フィルタ回路315は、カレントマクロブロックデータMD(C)を、動き補償されたフューチャマクロブロックデータMB(F)に基づいてフィルタリング処理し、カレントマクロブロックデータMD(C)のランダムノイズを低減する。
次に、フィルタ回路315から、フィルタリングされた画像データP8のマクロブロックデータMB′(C)が出力されるのに伴い、動き補償回路326から、画像データI6の動き補償済みのマクロブロックデータMB(F)が、スイッチ325を介して加算回路316に供給される。従って、加算回路316においては、画像データP8のマクロブロックデータから、画像データI6の動き補償済みのマクロブロックデータが減算される。この減算によって得られた差分データは、後段の各回路によって符号化された後に出力端子322を介して出力される。以上の処理は、画像データP8の全マクロブロックデータに対して行われる。尚、この画像データP8に対して符号化処理が行われた後、フレームメモリ328に記憶されている画像データI6は、フレームメモリ335に記憶される。
以上の処理の間、量子化回路319からの符号化後の差分データは、逆量子化回路324及びIDCT回路331において元の差分データに戻された後に、加算回路330に供給され、この加算回路330において、動き補償回路326からスイッチ325を介して供給される動き補償済みのマクロブロックデータと加算されることにより、画像データP8のマクロブロックデータに変換される。この画像データP8のマクロブロックデータは、スイッチ329を介してフレームメモリ328に供給される。以上の処理は、画像データP8をフレームメモリ328に対する記憶が終了する迄行われる。
次に符号化されるのは、画像データB7である。セレクタ314から画像データB7が出力される前の段階においては、フレームメモリ311にはフューチャフレームとして画像データP8が記憶され、フレームメモリ312にはカレントフレームとして画像データB7が記憶され、フレームメモリ313にはパーストフレームとして画像データI6が記憶されている。
そして、動き検出回路327においては、フレームメモリ312に記憶されている画像データB7の各マクロブロックと、フレームメモリ311に記憶されている画像データP8の各マクロブロックとで動き検出が行われ、画像データB7の各マクロブロックが、夫々画像データP8のどの部分(マクロブロックデータ)に一致するのかを示す動きベクトルデータが得られる。これらのマクロブロック毎の動きベクトルデータは、動き補償回路326において、フレームメモリ328に記憶されている画像データP8の内の対応するマクロブロックデータを順次読み出す、即ち、動き補償するために用いられる。
一方、動き検出回路334においては、フレームメモリ312に記憶されている画像データB7の各マクロブロックと、フレームメモリ313に記憶されている画像データI6の各マクロブロックとで動き検出が行われ、画像データB7の各マクロブロックが、夫々画像データI6のどの部分(マクロブロックデータ)に一致するのかを示す動きベクトルデータが得られる。これらのマクロブロック毎の動きベクトルデータは、動き補償回路333において、フレームメモリ335に記憶されている画像データI6の内の対応するマクロブロックデータを順次読み出す、即ち、動き補償するために用いられる。
さて、セレクタ314から、カレントマクロブロックデータMD(C)として出力された画像データB7は、フィルタ回路315に供給される。この時、フィルタ回路315には、動き補償回路326によって動き補償された画像データP8が、動き補償されたフューチャマクロブロックデータMB(F)として供給されると共に、動き補償回路333によって動き補償された画像データI6が、動き補償されたパーストマクロブロックデータMB(P)として供給される。フィルタ回路315は、カレントマクロブロックデータMD(C)を、動き補償されたフューチャマクロブロックデータMB(F)と動き補償されたパーストマクロブロックデータMB(P)とに基づいてフィルタリング処理し、カレントマクロブロックデータMD(C)のランダムノイズを低減する。
次に、フィルタ回路315から、フィルタリングされた画像データB7のマクロブロックデータMB′(C)が出力されるのに伴い、合成回路337から、動き補償回路326からの動き補償済みの画像データP8のマクロブロックデータMB(F)と、動き補償回路333からの動き補償済みの画像データI6のマクロブロックデータMB(P)との合成マクロブロックデータが出力され、この合成マクロブロックデータが、スイッチ325を介して加算回路316に供給される。従って、加算回路316においては、画像データB7のマクロブロックデータから、合成マクロブロックデータが減算される。この減算によって得られた差分データは後段の各回路によって符号化され、出力端子322を介して出力される。以上の処理は、画像データB7の全マクロブロックデータに対して行われる。尚、この画像データB7に対して符号化処理が行われた後、フレームメモリ328に記憶されている画像データP8は、フレームメモリ335に記憶される。
以上のようにして、GOP2の各フレームの画像データが符号化される。尚、他のGOPも同様にして符号化される。尚、エンコーダ・コントローラ338は、動き検出回路327及び334からの動きベクトルデータ,動き補償のタイプを示すデータ(或いは符号化時に減算されたデータを示すデータ)等やピクチャタイプを示すデータを、符号化回路321に供給される圧縮差分データに付加し、更に、GOP毎にGOPの先頭を示すデータや、符号化順序を示すデータを付加する。これらのデータを付加された圧縮差分データは、上述したように、符号化回路321において積符号形式にされた後に出力端子322を介して出力され、記録又は伝送される。
[動き検出回路の一例 第4図]
次に、第4図を参照して、第2図に示した動き検出回路327及び334の一例に付いて説明する。第4図に示す動き検出回路は、ブロックマッチングと称される方法により動き検出を行うものである。尚、第2図に示したフレームメモリ312が、この第4図に示す現フレームメモリ421に対応し、第2図に示したフレームメモリ311や313が、この第4図に示す参照フレームメモリ423に対応する。
(動き検出回路の接続及び構成)
この第4図に示す動き検出回路は、現フレームメモリ421と、参照フレームメモリ423と、アドレス移動回路433と、加算回路424と、絶対値回路425と、ラッチ回路427と、加算回路426と、メモリ428と、最小値検出回路429と、ベクトル検出回路430と、コントローラ432とを備えている。
即ち、この動き検出回路は、カレント(現在)フレームの画像データを記憶するための現フレームメモリ421と、未来若しくは過去のフレーム(参照フレーム)の画像データを記憶するための参照フレームメモリ423と、参照フレームメモリ423に順次異なるアドレスデータを供給するアドレス移動回路433と、現フレームメモリ421からのカレントフレームの注目マクロブロックの画素データから、参照フレームメモリ423からの参照マクロブロックの画素データを減算する加算回路424と、この加算回路424からの減算結果の差分絶対値を得る絶対値回路425と、この絶対値回路425からの絶対値データを保持するラッチ回路427と、絶対値回路425からの出力とラッチ回路427からのラッチ出力を加算して各参照マクロブロック毎の差分絶対値和データを得るための加算回路426と、この加算回路426からの差分絶対値和データを記憶するメモリ428と、このメモリ428に記憶された差分絶対値和データの内の最小値を検出する最小値検出回路429と、この最小値検出回路429からの最小の差分絶対値和データによって1つの注目マクロブロックに対応する1つの動きベクトルデータを得、この動きベクトルデータを、コントローラ432及び第2図に示したエンコーダ・コントローラ338に夫々供給する動きベクトル検出回路430と、最小値検出回路429からの最小の差分絶対値和データと、動きベクトル検出回路330からの動きベクトルデータに基づいてアドレス移動回路433を制御すると共に、現フレームメモリ421に対する画像データの書き込みや、記憶されている画像データの読み出しの制御を行うためのコントローラ432とを備えている。
ここで、動きベクトル検出回路430は、例えば入力される差分絶対値和データに対応する動きベクトルデータ、例えば縦方向及び横方向の移動量データをROM等から読み出すことで、入力される差分絶対値和データを動きベクトルデータに変換する。
(動き検出回路の動作)
コントローラ432の制御により、現フレームメモリ421から注目ブロックとしてのマクロブロック(8×8画素、或いは16×16画素)の画素データが順次繰り返し読み出される。一方、コントローラ432の制御により、アドレス移動回路433が、参照フレームメモリ423の記憶空間上にサーチエリアを設定し、更にそのサーチエリア内においてマクロブロックと同じ大きさの参照ブロックを設定し、その参照ブロック内においてマクロブロックと同じ大きさの参照ブロックを設定し、その参照ブロック内の画素データを順次読み出すためのアドレスデータを順次参照フレームメモリ423に供給する。そして、設定した参照ブロック内の画素データの読み出しが全て終了すると、アドレス移動回路433は、参照フレームメモリ423に対してアドレスデータを供給することにより、その参照ブロックの位置をサーチエリア内において1画素分ずらし、続いて順次アドレスデータを参照フレームメモリ423に供給することにより、1画素分ずらした参照ブロック内の画素データの読み出しを行う。
加算回路424においては、現フレームメモリ421から読み出された注目ブロック内の画素データから、参照フレームメモリ423から読み出された参照ブロック内の画素データが減算される。この減算結果は絶対値回路425に供給されて絶対値データにされた後、加算回路426を介してラッチ回路427に供給される。ラッチ回路427には、順次、加算回路426からの加算結果、即ち、差分絶対値和データが保持され、これによって、現フレームメモリ421内の注目ブロックと、参照フレームメモリ423内の1つの参照ブロックとの差分絶対値和データが、メモリ428に順次記憶される。そして、最終的にメモリ428内には、サーチエリア内に順次1画素分ずつずらされて設定される多数の注目ブロックの数だけ差分絶対値和データが記憶される。
1つの注目マクロブロックの画素データと、1つのサーチエリア内における複数個のマクロブロックの画素データとの演算が全て終了すると、最小値検出回路429は、メモリ428内の全差分絶対値和データ中から最も値の小さい差分絶対値和データを選択し、その差分絶対値和データを動きベクトル検出回路430に供給すると共に、コントローラ432に次の注目マクロブロックに付いて処理を開始させるための制御信号を供給する。
最小値検出回路429からの差分絶対値和データは、動きベクトル検出回路430に供給する。動きベクトル検出回路430は、最小値検出回路429からの差分絶対値和データに対応する動きベクトルデータを得る。動きベクトル検出回路430において得られた動きベクトルデータは、出力端子431を介して第2図に示した動き補償回路326,333及びエンコーダ・コントローラ338に夫々供給される。そして、エンコーダ・コントローラ338は、上述した手順と同様に、サーチエリアを設定した後、再び次の注目マクロブロック内の画素データと、参照ブロック内の画素データとで演算処理を行うべく、アドレス移動回路433及び現フレームメモリ421を制御する。
尚、このブロックマッチングに関する技術に付いては、米国特許第4,897,720号に記載されているので、これ以上の詳細に関しては、この米国特許を参照されたい。
再び第2図を参照すると、次の段階で、上述したビット・レート・エンコーダによって高能率符号化されたデータが、記録/再生部33にある記録媒体に蓄積される。この記録装置としては、本実施例のようにカメラ一体型ビデオテープレコーダの場合にはビデオテープレコーダであり、また、その他の撮像装置の場合には、例えば光磁気ディスク駆動装置,固定ディスク装置等であってよい。
更に、こうして蓄積された画像圧縮データは、適当なデコーダによって復号化される。
[フィルタ回路 第5図]
第5図は、第2図に示すフィルタ回路315の全体の構成を示す図である。第5図に示すように、フィルタ回路は、加算回路511,519と、絶対値化回路512,520と、閾値設定回路517,518と、比較回路513,521と、カウンタ514,522と、比較回路515,523と、演算回路516と、フィルタ制御回路524とを備えている。
フィルタ制御回路524には、システムコントローラ5から、エンコーダコントローラ338を介して、フィルタ制御信号が供給される。このフィルタ制御信号は、システムコントローラ5がゲイン制御回路22R,22G,22Bに対して供給したゲイン制御信号に対応している信号である。フィルタ制御回路524は、システムコントローラから供給されたフィルタ制御信号に基づいて、閾値設定回路517に対して供給される閾値係数αと、閾値設定回路518に対して供給される閾値係数βと、演算回路516に供給されるフィルタ係数kとを生成する。尚、閾値係数αと、閾値係数kは、ゲイン制御信号によって示されるゲインレベルと連動している。
加算回路511は、セレクタ回路(第2図の符号314)から入力されたカレントフレームのマクロブロックデータMB(C)から、これに対応するパーストフレームの動き補償済みのマクロブロックデータMB(P)を減算し、減算結果となる差分データを絶対値化回路512に対して出力する。一方、加算回路519は、セレクタ(第2図の符号314)から供給されたカレントフレームのマクロブロックデータMB(C)から、これに対応するフューチャフレームの動き補償済みのマクロブロックデータMB(F)を減算し、減算結果となる差分データを絶対値化回路520に対して出力する。
絶対値化回路512は、加算回路511から入力された差分データの絶対値を算出し、その絶対値を差分絶対値データとして比較回路513の一方の入力に対し出力する。同様に、絶対値化回路520は、加算回路519から入力された差分データの絶対値を算出し、その絶対値を差分絶対値データとして比較回路521の一方の入力に対し出力する。
閾値設定回路517は、比較回路513と比較回路521に供給される閾値を生成するための回路である。閾値設定回路517は、フィルタ制御回路524から供給される閾値係数αに基づいて、閾値Tαを生成する。生成された閾値Tαは、比較回路513及び比較回路521の他方の入力に夫々供給される。
比較回路513は、カレントマクロブロックデータMB(C)と動き補償されたパーストマクロブロックデータMB(P)との間に相関があるか否かを判断するための回路である。具体的には、絶対値化回路512から供給される差分絶対値データと、閾値設定回路517から供給される閾値Tαとを比較して、この比較結果に応じて、相関判定データCJ(P)を、カウンタ回路514及び演算回路516に供給する。比較回路513は、差分絶対値データが閾値Tαより小さい場合には、カレントマクロブロックデータMB(C)と動き補償されたパーストマクロブロックデータMB(P)との間に相関があると判断して、相関判定データCJ(P)として理論値「1」を出力する。一方、比較回路513は、差分絶対値データが閾値Tαより大きい場合には、カレントマクロブロックデータMB(C)と動き補償されたパーストマクロブロックデータMB(P)との間に相関がないと判断して、相関判定データCJ(P)として理論値「0」を出力する。
同様に、比較回路521は、カレントマクロブロックデータMB(C)と動き補償されたフューチャマクロブロックデータMB(F)との間に相関があるか否かを判断するための回路である。具体的には、絶対値化回路520から供給される差分絶対値データと、閾値設定回路517から供給される閾値Tαとを比較して、この比較結果に応じて、相関判定データCJ(F)を、カウント回路522及び演算回路516に供給する。比較回路521は、差分絶対値データが閾値Tαより小さい場合には、カレントマクロブロックデータMB(C)と動き補償されたフューチャマクロブロックデータMB(F)との間に相関があると判断して、相関判定データCJ(F)として理論値「1」を出力する。一方、比較回路513は、差分絶対値データが閾値Tαより大きい場合には、カレントマクロブロックデータMB(C)と動き補償されたフューチャマクロブロックデータMB(F)との間に相関がないと判断して、相関判定データCJ(F)として理論値「0」を出力する。
ここで、閾値設定回路517によって設定される閾値Tαは、フィルタ制御回路524から供給される閾値係数αによって設定される値である。この閾値Tαの値は、システムコントローラ5が、ゲイン制御信号によって可変されたゲイン制御回路22R,22G,22Bのゲインレベルと関連づけられており、ゲインレベルと比例するように可変される。例えば、閾値Tαが固定値であり、且つ、説明上、カレントマクロブロックデータMD(C)と動き補償されたパーストマクロブロックデータMB(P)との間に相関がある場合について考えてみる。ゲインが0dBの状態においては、カレントマクロブロックデータMD(C)と動き補償されたパーストマクロブロックデータMB(P)との間には相関があるので、絶対値化回路512の出力の差分データが、固定閾値Tαより小さくなり、相関判定データCJ(P)として「1」が出力される。この状態において、0dBから9dBにゲインアップしたとすると、カレントマクロブロックデータMD(C)とバーストマクロブロックデータMB(P)との差分データがこのゲインアップによって大きくなってしまい、結果として、この差分データが固定閾値Tαより大きくなってしまう場合がある。このように、ゲインアップすることによって、この例においては、カレントマクロブロックデータMD(C)と動き補償されたパーストマクロブロックデータMB(P)との間の相関判定が異なっては問題である。
したがって、本実施例においては、閾値設定回路517は、システムコントローラ5からのフィルタ制御信号に基づいて、制御回路22R,22G,22Bのゲインレベルに比例したレベルを有する閾値Tαを生成する。具体的には、システムコントローラ5が、ゲイン制御信号を供給することによって、ゲイン制御回路22R,22G,22Bのゲインレベルを0dBから9dBにゲインアップすると、このフィルタ回路524は、システムコントローラ5からゲインアップを示すフィルタ制御信号を受け取り、閾値設定回路517に対して閾値係数αを供給する。閾値設定回路517は、閾値係数αに基づいて、閾値Tαのレベルを0dBから9dBに可変する。このようにすることによって、ゲイン制御回路22R,22G,22Bのゲインが可変されたとしても、相関判定データCJ(P)の結果が変わることはない。
カウンタ回路514は、比較回路513の相関判定データCJ(P)が理論値1となるカレントフレームのマクロブロックデータの画素数をマクロブロック毎に計数し、その計数値C(P)を比較回路515に対して出力する。即ち、相関有りが、マクロブロック内でどの位有るかをカウントしている。同様に、カウンタ回路522は、比較回路521の相関判定データCJ(F)が理論値1となるカレントフレームのマクロブロックデータの画素数をマクロブロック毎に計数し、その計数値C(F)を比較回路523に対して出力する。
比較回路515は、動き補償されたバーストマクロブロックデータMB(P)の動き補償回路333における動き補償処理が適切であったか否かを判断するための回路である。カウンタ514から供給される係数値C(P)と、閾値設定回路518から供給される閾値Tβとをマクロブロック毎に比較して、この比較結果に応じて、動き補償判定データVJ(P)を、演算回路516に供給する。比較回路515は、係数値C(P)が閾値Tβより大きい場合には、動き補償されたパーストマクロブロックデータMB(P)の動き補償処理が適切であったと判断して、動き補償判定データVJ(P)として理論値「1」を出力する。一方、比較回路515は、計数値C(P)が閾値Tβより小さい場合には、動き補償されたパーストマクロブロックデータMB(P)の動き補償処理が不適切であったと判断して、動き補償判定データVJ(P)として理論値「0」を出力する。
同様に、比較回路523は、動き補償されたフューチャマクロブロックデータMB(F)の、動き補償回路326における動き補償処理が適切であったか否かを判断するための回路である。カウンタ522から供給される計数値C(F)と、閾値設定回路518から供給される閾値Tβとをマクロブロック毎に比較して、この比較結果に応じて、動き補償判定データVJ(F)を、演算回路516に供給する。比較回路523は、計数値C(F)が閾値Tβより大きい場合には、動き補償されたパーストマクロブロックデータMB(P)の動き補償処理が適切であったと判断して、動き補償判定データVJ(F)として理論値「1」を出力する。一方、比較回路523は、計数値C(F)が閾値Tβより小さい場合には、動き補償されたフューチャマクロブロックデータMB(F)の動き補償処理が不適切であったと判断して、動き補償判定データVJ(F)として理論値「0」を出力する。
閾値設定回路518は、フィルタ制御回路524から供給された閾値計数に基づいて、閾値Tβを生成する。この閾値Tβは、閾値設定回路517において生成される閾値Tαとは異なって、ゲイン制御回路22R,22G,22Bのゲインレベルと関連付けられてはいない。従って、閾値Tβは固定値であってもよいが、より好ましくは、動き補償回路326及び333の動き補償精度に応じて可変することが良い。
演算回路516には、相関判定データCJ(P),CJ(F)と、動き補償判定データVJ(P),VJ(F)と、カレント(現在)フレームのマクロブロックデータMB(C)と、パースト(過去)フレームの動き補償済みのマクロブロックデータMB(P)と、フューチャ(未来)フレームの動き補償済みのマクロブロックデータMB(F)と、フィルタ制御回路524からフィルタ係数kとが入力される。そして、演算回路516は、パースト(過去)フレームのマクロブロックデータMB(P)及びフューチャ(未来)フレームのマクロブロックデータMB(F)の両方又はいずれか一方を用いてカレント(現在)フレームのマクロブロックデータMB(C)をフィルタリングし、フィルタリングデータMB′(C)として出力する。
演算回路516は、第1段階として、式(1)
MB″(C)={P・MB(P)+C・MB(C)+F・MB(F)}/4 ………(1)
に基づいて、加重平均MB″(C)を演算する。ここで、MB(P)は、パーストマクロブロックデータMB(P)の画素データであって、MB(C)は、カレントマクロブロックデータMD(C)の画素データであって、MB(F)は、フューチャマクロブロックデータMB(F)の画素データである。また、「P」、「C」,「F」は、夫々MB(P)、MB(C)、MB(F)の重み付け計数を示す。この重み付け計数は、演算回路516に供給される相関判定データと動き補償判定データとに基づいて選択される。具体的には、表1に示されるように、重み付け計数「P」,「C」,「F」が設定されている。
但し、表1中、「×」は、「don't care」を意味し、0又は1の何れであってもよい。
この表1において示されるように、相関判定データCJ(P)が「1」、相関判定データCJ(F)が「0」、動き補償判定データVJ(P)が「1」、且つ、動き補償判定データVJ(F)が「1」のときは、重み付け係数P,C,Fは、夫々「1」「2」「1」とされる。つまり、この場合は、動き補償されたパーストマクロブロックデータMB(P)及び動き補償されたフューチャマクロブロックデータMB(F)の両方のマクロブロックデータを使用して、カレントマクロブロックデータMD(C)をフィルタリングすることになる。しかし、相関判定データCJ(P)が「1」及び動き補償判定データVJ(P)が「1」であったとしても、相関判定データCJ(F)が「0」又は動き補償判定データVJ(F)が「0」のときは、重み付け係数P,C,Fは、夫々、「2」「2」「0」とされる。つまり、この場合は、動き補償されたフューチャマクロブロックデータMB(F)を使用せずに、動き補償されたパーストマクロブロックデータMB(P)のみを使用して、カレントマクロブロックデータMD(C)をフィルタリングすることになる。また、相関判定データCJ(F)が「1」及び動き補償判定データVJ(F)が「1」であったとしても、相関判定データCJ(P)が「0」又は動き補償判定データVJ(P)が「0」のときは、重み付け計数P,C,Fは、夫々、「0」「2」「2」とされる。つまり、この場合は、動き補償されたパーストマクロブロックデータMB(P)を使用せずに、動き補償されたフューチャマクロブロックデータMB(F)のみを使用して、カレントマクロブロックデータMB(C)をフィルタリングすることになる。
次に、演算回路516は、第2段階として、式(2)
MB′(C)=MB(C)-k[MB(C)-{P・MB(P)+C・MB(C)+F・MB(F)}/4]
=(1-k)MB(C)+K[{P・MB(P)+C・MB(C)+F・MB(F)}/4]
=(1-k)MB(C)+KMB″(C) (2)
に基づいて、フィルタリングされたカレントマクロブロックデータMB′(C)を演算する。但しフィルタ係数kの値は0≦k≦1の範囲の値を有し、フィルタ制御回路524から供給される値である。このフィルタ係数は、ゲイン制御回路22R,22G,22Bのゲインレベルの変動に応じて可変される値であって、例えば、表2のように予め設定されている。
即ち、ゲインが低い時、例えば、0dBの時は、k=0.3となり、MB(C):MB″(C)=0.7:0.3とり、フィルタリングデータMB′(C)における加重平均MB″(C)の比率が相対的に低い。その後、カメラマンによってゲインが高く切り換えられ、例えば12dBとなると、k=0.8となり、MB(C):MB″(C)=0.2:0.8となり、フィルタリングデータMB′(C)における加重平均MB″(C)の比率が相対的に高くなる。更に、ゲインが高く切り換えられ、例えば24dB以上になると、k=1.0となり、MB(C):MB″(C)=0:1.0となり、式(1)に示すように、フィルタリングデータMB′(C)は加重平均MB″(C)の値と等しくなる。
この例では、フィルタ係数kの値として、表2のように予め設定された値を使用するようにしたが、ゲイン制御回路22R,22G,22Bのゲインレベルに応じて、閾値係数kの値を線型的に可変するようにしても良い。
このように、式(1)によって、フレーム間の画像データの加重平均を算出することは、カレントフレームのデータを時間的にローパスフィルタによりフィルタリングすることと等価であり、カレントデータをそのまま映像化した場合に比較してノイズ等が少なくなるので画質が向上する。表1に示すように重み付けを行うことにより、動き補償が適切に行われなかったマクロブロック間の加重平均及び相関が小さい画素間の加重平均の算出によるフィルタリングを防止することが出来るので、演算回路516によるフィルタリングの結果、かえってフィルタリングデータMB′(C)の画質が低下することはない。
さらに、式(2)によって、フィルタ回路315の演算回路516は、ゲイン制御レベルに連動したフィルタ係数kを使用してカレントマクロブロックデータMB′(C)を演算しているので、ゲイン制御レベルに応じたマクロブロックデータMB′(C)を生成することができる。言い換えると、ゲイン制御レベルに連動した閾値係数kに応じて、マクロブロックデータMB′(C)に使用されるカレントマクロブロックデータMB(C)との比重と加重平均MB″(C)の比重とを可変している。従って、ゲインアップするとそれに連動してフィルタ係数kの値が高くなり、マクロブロックデータMB′(C)における加重平均MB″(C)の比重を高くすることができる。よって、ゲインをアップするほど、フィルタリング特性がアップする。
(フィルタ回路の動作)
フィルタ回路315において、加算回路511,絶対値化回路512及び比較回路513は、カレントデータの画像データMB(C)とパーストデータの画像データMB(P)との画素毎の相関を判定して相関判定データCJ(P)を比較回路515及び演算回路516に対して出力する。
また、加算回路519,絶対値化回路520及び比較回路521は、カレントデータの画像データMB(C)とフューチャデータの画像データMB(F)との画素毎の相関を判定して相関判定データCJ(F)を比較回路523及び演算回路516に対して出力する。
カウンタ回路514及び動き補償適否判定のための比較回路515は、カレントデータのマクロブロックの画像データMB(C)とパーストデータの対応するマクロブロックの画像データMB(P)との画素毎の相関、即ち、ビット・レート・エンコーダ31(第2図参照)においてこれらのマクロブロック間に行われた動き補償処理が適切であったか否かを判定し、動き補償判定データVJ(P)を演算回路518に対して出力する。
カウンタ回路522及び動き補償のための比較回路523は、カレントデータのマクロブロックの画像データMB(C)とフューチャデータの対応するマクロブロックの画像データMB(F)との画素毎の相関、即ち、ビット・レート・エンコーダ・エンコーダ31においてこれらのマクロブロック間に行われた動き補償処理が適切であったか否かを判定し、動き補償判定データVJ(F)を演算回路516に対して出力する。
演算回路516は、相関判定データCJ(P),CJ(F)及び動き補償判定データVJ(P),VJ(F)夫々の論理値に基づいて、カレントデータMB(C),パーストデータMB(P)及びフューチャデータMB(F)に対して、表1に示した重み付け係数を選択する。演算回路516は式(1)に示した演算処理を行ってカレントデータMB(C)をフィルタリングし、フィルタリングデータMB′(C)として出力する。
上述のように、フィルタ回路315は、カレントデータMB(C)と相関が大きい画像データのみを用いてフィルタリングを行うので、カレントデータMB(C)とは相関が全く無いか又は有っても非常に小さいランダムノイズは実質的に排除され、加重平均MB″(C)に影響を与えない。この時、カメラマンのゲインアップに連動して変動するフィルタ係数kにより、フィルタリングデータMB′(C)における加重平均MB″(C)の比率を一層高いものとすることにすることにより、ゲインアップをしてもランダムノイズは実質的に排除されたものとなる。
また、フィルタ回路315によりフィルタリングを行うことにより、圧縮符号化の際にDCTを行った場合にカレントデータMB(C)に生じ易いモスキートノイズを抑えることができ、映像のS/N比も改善される。同様に、この時、カメラマンのゲインアップに連動して、動き補償適否判定の閾値が変化し、高いものとなっている。
なお、実施例においては、フィルタ回路315はMPEGデータのBピクチャに対応するカレントデータMB(C)の画像データのみをフィルタリングするように構成したが、他のピクチャの画像データに対してもフィルタリングを行うように構成してもよい。
また、フィルタ回路315はカレントデータMB(C)の直前及び直後のフレームの画像データのみを用いてフィルタリングを行うように構成したが、更に2つ前のフレーム或いは2つ後のフレームの画像データを用いてフィルタリングするように構成してもよい。
また、実施例においては、フィルタ315がカレントデータMB(C),パーストデータMB(P)及びフューチャデータMB(F)に対する重み付けを、処理の容易性の観点から整数比としたが、フィルタリング特性の向上のために他の値としてもよい。
発明の効果
以上説明したように、本発明に係る撮像装置及び撮像信号のノイズを除去する方法によれば、ランダムノイズを実質的に除去した画像データを画像圧縮して記憶又は伝送することが出来る。
ノイズの除去は、上述のフィルタ回路においてなされ、ノイズが除去された画像データを用いて画像圧縮がなされる。従って、カメラマンが撮像信号のゲインを上げたとしても、その後段でなされる画像圧縮過程でノイズが動きと捉えられるようなことはない。
ゲインアップしたときのランダムノイズが減少し、その結果としてランダムノイズに対してビットの割り当てが減少するので、画像データに対して十分なビットを確保することができ、符号化時のビット割り当て減少による画質劣化を有効に回避することができる。
さらに、フィルタ回路に供給される動き補償されたマクロブロックデータを生成するための動き補償回路と、相方向の符号化に使用される動き補償回路とを共通の回路としているので、フィルタリングするために新たに動き補償回路を設ける必要がなく、非常に簡単な回路構成が実現できる。
本発明によれば、画像信号の利得を可変した場合でも、撮像結果に対するビット配分がノイズに集中しない撮像装置を提供することが出来る。
更に、本発明によれば、利得が変化させた場合に、この利得の変化に連動してノイズを減少する撮像装置を提供することが出来る。
Claims (18)
- 撮像デバイスを備えた撮像システムにおいて、
(a)上記撮像デバイスから出力されたビデオデータのゲインを制御するゲイン制御手段と、
(b)上記ゲイン制御手段によってゲインが制御されたビデオデータのランダムノイズを抑圧するためのフィルタ手段と、上記フィルタ手段によってフィルタリングされたビデオデータを符号化する符号化手段とを有したビットレートエンコーダと、
(c)上記ビデオデータのゲインが、カメラマンによって指定されたゲインとなるように上記ゲイン制御手段を制御すると共に、上記フィルタ手段のフィルタリング特性が、上記指定されたゲインに対応したフィルタリング特性となるように上記フィルタ手段を制御するシステムコントローラとを備えた撮像システム。 - 上記システムコントローラは、
上記ゲイン制御手段によってゲインアップに連動して、上記フィルタ手段のフィルタリング特性を向上させるように上記フィルタ手段を制御する請求項1記載の撮像システム。 - 上記ビットレートエンコーダは、
現在フレームのビデオデータに対して時間的に未来のデータとなる未来フレームのビデオデータの動き補償をマクロブロック単位で行なう動き第1の動き補償手段と、現在フレームのビデオデータに対して時間的に過去のデータとなる過去フレームのビデオデータの動き補償をマクロブロック単位で行なう第2の動き補償手段とを備え、
上記フィルタ手段は、
上記第1の動き補償手段によって動き補償された未来フレームのマクロブロックデータと、上記第2の動き補償手段によって動き補償された過去フレームのマクロブロックデータとに基づいて、上記現在フレームのマクロブロックデータをフィルタリングする請求項1記載の撮像システム。 - 上記ビットレートエンコーダの符号化手段は、
上記第1の補償手段によって動き補償された未来フレームのマクロブロックデータ及び上記第2の動き補償手段によって動き補償された過去フレームのマクロブロックデータの両方のマクロブロックデータを使用して、上記現在フレームのマクロブロックデータを符号化する、又は、上記第1の補償手段によって動き補償された未来フレームのマクロブロックデータ又は上記第2の動き補償手段によって動き補償された過去フレームのマクロブロックデータの何れか一方を使用して、上記現在フレームのマクロブロックデータを符号化する請求項3記載の撮像システム。 - 上記フィルタ手段の動き補償手段は、上記符号化手段の動き補償手段と共通の回路である請求項4記載の撮像システム。
- 上記フィルタ手段は、
第1の重み付け係数によって重み付けされた上記現在フレームのマクロブロックデータと、第2の重み付け係数によって重み付けされた上記動き補償された未来フレームのマクロブロックデータと、第3の重み付け係数によって重み付けされた上記動き補償された過去フレームのマクロブロックデータと加重平均の値となる加重平均マクロブロックデータを生成する請求項3記載の撮像システム。 - 上記フィルタ手段は、
上記現在のマクロブロックデータと上記加算平均マクロブロックデータとから、上記フィルタ手段から出力されるフィルタリングマクロブロックデータを生成する請求項6記載の撮像システム。 - 上記フィルタ手段は、
上記現在フレームのマクロブロックデータに対する上記動き補償された未来フレームのマクロブロックデータ又は上記動き補償された過去フレームのマクロブロックデータの相関、及び、上記第1の動き補償手段又は上記第2の動き補償手段における動き補償処理の適切さとに基づいて、上記第1の重み付け係数、上記第2の重み付け係数及び上記第3の重み付け係数を選択する請求項6記載の撮像システム。 - 上記現在フレームのマクロブロックデータに対して上記動き補償された未来フレームのマクロブロックデータが相関がない場合には、上記第2の重み付け係数は0とされ、上記現在フレームのマクロブロックデータに対して上記動き補償された過去フレームのマクロブロックデータが相関がない場合には、上記第3の重み付け係数は0とされる請求項6記載の撮像システム。
- 上記フィルタ手段は、
上記指定されたゲインに対応するように生成されたフィルタ係数に基づいて、上記フィルタ手段から出力される上記フィルタリングマクロブロックデータにおける、上記現在のマクロブロックデータ及び上記加重平均マクロブロックデータの割合を可変する請求項7記載の撮像システム。 - 上記フィルタ手段は、
上記ゲイン制御手段のゲインのアップに伴って、上記フィルタリングマクロブロックデータにおける上記加重平均マクロブロックデータの割合をアップする請求項7記載の撮像システム。 - 上記現在フレームのマクロブロックデータと上記動き補償された未来フレームのマクロブロックデータとの間の相関を有無を示す第1の相関判定データと、上記現在フレームマクロブロックデータと上記動き補償された過去フレームのマクロブロックデータとの間の相関の有無を示す第2の相関判定データと、上記第1の動き補償手段によって動き補償された未来フレームのマクロブロックデータの動き補償が適切であたっか否かを示す第1の動き補償判定データと、上記第2の動き補償手段によって動き補償された過去フレームのマクロブロックデータの動き補償が適切であったか否かを示す第2の動き補償判定データとに基づいて、上記第1の重み付け係数、上記第2の重み付け係数及び上記第3の重み付け係数を選択する請求項6記載の撮像システム。
- 上記第1の相関判定データは、
上記現在フレームのマクロブロックデータと上記動き補償された未来フレームのマクロブロックデータとの差分データと設定閾値との比較結果に基づいて得られ、
上記フィルタ手段は、
上記ゲイン制御手段のゲインに応じて、上記設定閾値を可変する請求項12記載の撮像システム。 - ビデオデータをマクロブロックデータ単位で符号化する符号化装置において、
(a)上記符号化されるビデオデータのゲインを符号化する符号化装置において、
(b)上記ゲイン制御手段によってゲインが制御されたビデオデータのノイズを抑圧するためのフィルタ手段と、上記フィルタ手段によってフィルタリングされたビデオデータを符号化する符号化手段とを有したビットレートエンコーダと、
(c)上記符号化されるビデオデータのゲインが、所望のゲインとなるように上記ゲイン制御手段を制御すると共に、上記フィルタ手段のフィルタリング特性が、上記所望のゲインに対応したフィルタリング特性となるように上記フィルタ手段を制御する制御手段とを備えた符号化装置。 - ビデオデータをマクロブロック単位で符号化する符号化方法において、
(a)上記符号化されるビデオデータが所望のゲインとなるようにゲインを制御するステップと、
(b)上記所望のゲインに対応したフィルタリング特性となるようにフィルタリング特性が可変させられたフィルタ手段によって、上記ゲイン制御されたビデオデータをフィルタリングすることによってノイズを抑圧するステップと、
(c)上記フィルタリングされたビデオデータを符号化するステップとから成る符号化方法。 - 画像データのゲインを任意のゲインに制御するゲイン制御手段と、
前記画像データを動画像圧縮標準にしたがってデータ圧縮するビット・レート・エンコーダ手段とを備えた撮像装置において、
画像データの相関を利用し、該画像データをフィルタリングすることによって、該画像データに含まれるランダムノイズを抑圧するフィルタ回路を設け、該フィルタ回路は前記ゲインに連動して該フィルタ回路のフィルタリング特性を変化させることを特徴とする画像処理装置。 - 撮像ブロックと、信号処理ブロックと、記録再生ブロックとを有した撮像システムにおいて、
撮像データのゲインを任意に切換可能なゲイン制御手段と、
撮像データのフィルタリングを行うフィルタ回路と、
撮像データのデータ圧縮を行うデータ圧縮手段とをもち、
前記フィルタリングは前記ゲインの切り換えに連動して該フィルタ回路のフィルタリング特性を変更して、上記撮像データに含まれるランダムノイズを減少する撮像システム。 - 画像データのゲインを任意に切り換えるステップと、
所定の画像データから、前記ゲインの切り換えに連動して、可変されるフィルタリング特性を有したフィルタ手段によって、フィルタリングデータを生成するステンップと、
フィルタリングされた画像データを画像圧縮するステップと、
画像圧縮された前記画像データを記録するステップとを含む画像データに含まれるランダムノイズを除去する方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP21303795 | 1995-07-31 | ||
PCT/JP1996/002161 WO1997005745A1 (en) | 1995-07-31 | 1996-07-31 | Image pickup system, picture processor, encoder, encoding method, and random noise removing method |
Publications (1)
Publication Number | Publication Date |
---|---|
JP3783238B2 true JP3783238B2 (ja) | 2006-06-07 |
Family
ID=16632477
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP50747697A Expired - Lifetime JP3783238B2 (ja) | 1995-07-31 | 1996-07-31 | 撮像システム、画像処理装置、符号化装置、符号化方法及びランダムノイズを除去する方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US5926224A (ja) |
JP (1) | JP3783238B2 (ja) |
WO (1) | WO1997005745A1 (ja) |
Families Citing this family (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6380973B1 (en) * | 1995-06-02 | 2002-04-30 | Canon Kabushiki Kaisha | Image sensing apparatus and method for image processing a moving image or a still image |
JP3263807B2 (ja) * | 1996-09-09 | 2002-03-11 | ソニー株式会社 | 画像符号化装置および画像符号化方法 |
JP3592025B2 (ja) * | 1997-03-11 | 2004-11-24 | キヤノン株式会社 | 撮影画像記録装置 |
US6340990B1 (en) * | 1998-03-31 | 2002-01-22 | Applied Intelligent Systems Inc. | System for deinterlacing television signals from camera video or film |
JP2001083926A (ja) * | 1999-09-09 | 2001-03-30 | Sharp Corp | 動画偽輪郭補償方法およびその方法を用いた画像表示装置 |
US6996186B2 (en) * | 2002-02-22 | 2006-02-07 | International Business Machines Corporation | Programmable horizontal filter with noise reduction and image scaling for video encoding system |
US6980598B2 (en) * | 2002-02-22 | 2005-12-27 | International Business Machines Corporation | Programmable vertical filter for video encoding |
US7136095B2 (en) * | 2002-06-03 | 2006-11-14 | Sharp Laboratories Of America, Inc. | Digital image system and method for noise compensation |
US7821555B2 (en) * | 2003-04-21 | 2010-10-26 | Micron Technology, Inc. | Multi path power for CMOS imagers |
KR20050022160A (ko) * | 2003-08-26 | 2005-03-07 | 삼성전자주식회사 | 스케일러블 비디오 코딩 및 디코딩 방법, 및 스케일러블비디오 엔코더 및 디코더 |
KR100738075B1 (ko) * | 2005-09-09 | 2007-07-12 | 삼성전자주식회사 | 영상 부호화/복호화 장치 및 방법 |
JP4794987B2 (ja) * | 2005-11-09 | 2011-10-19 | キヤノン株式会社 | 映像信号処理装置 |
JP4618802B2 (ja) | 2006-02-14 | 2011-01-26 | キヤノン株式会社 | 撮像装置 |
JP2007318630A (ja) * | 2006-05-29 | 2007-12-06 | Matsushita Electric Ind Co Ltd | 画像入力装置、撮像モジュール、及び固体撮像装置 |
US8090183B2 (en) * | 2009-03-12 | 2012-01-03 | Visiongate, Inc. | Pattern noise correction for pseudo projections |
JP5402223B2 (ja) * | 2009-05-11 | 2014-01-29 | パナソニック株式会社 | 撮像装置 |
JP5751184B2 (ja) * | 2012-01-31 | 2015-07-22 | Nkワークス株式会社 | 画像処理プログラム、画像処理装置および画像処理方法 |
US9691133B1 (en) * | 2013-12-16 | 2017-06-27 | Pixelworks, Inc. | Noise reduction with multi-frame super resolution |
US11069054B2 (en) | 2015-12-30 | 2021-07-20 | Visiongate, Inc. | System and method for automated detection and monitoring of dysplasia and administration of immunotherapy and chemotherapy |
CN110830757B (zh) * | 2018-08-07 | 2021-04-20 | 浙江宇视科技有限公司 | 图像码率处理方法、装置及计算机可读存储介质 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4901150A (en) * | 1988-11-22 | 1990-02-13 | Sony Corporation | Automatic noise reduction for individual frequency components of a signal |
US5633677A (en) * | 1989-11-30 | 1997-05-27 | Canon Kabushiki Kaisha | Television camera apparatus |
US5410225A (en) * | 1991-08-30 | 1995-04-25 | Aiwa Co., Ltd. | Video camera and camera system employing aperture control |
JPH05268636A (ja) * | 1992-03-23 | 1993-10-15 | Mitsubishi Electric Corp | 符号化復号化装置 |
US5369445A (en) * | 1992-06-12 | 1994-11-29 | Samsung Electronics Co., Ltd. | Noise reducing apparatus and methods for television receivers |
JP3443867B2 (ja) * | 1992-06-26 | 2003-09-08 | ソニー株式会社 | 画像信号符号化、復号化方法及び画像信号記録媒体 |
EP0603947B1 (fr) * | 1992-12-22 | 2000-04-12 | Koninklijke Philips Electronics N.V. | Dispositif de codage de signaux numériques représentatifs d'images de télévision |
US5493514A (en) * | 1993-11-24 | 1996-02-20 | Intel Corporation | Process, apparatus, and system for encoding and decoding video signals |
JP3556267B2 (ja) * | 1994-04-27 | 2004-08-18 | 株式会社東芝 | 時間軸変換方式 |
US5512958A (en) * | 1994-04-29 | 1996-04-30 | Matsushita Electric Corporation Of America | System for controlling the effects of noise in television receivers |
KR0151011B1 (ko) * | 1994-11-30 | 1998-10-01 | 김광호 | 바이폴라 트랜지스터 및 그 제조방법 |
US5694170A (en) * | 1995-04-06 | 1997-12-02 | International Business Machines Corporation | Video compression using multiple computing agents |
US5706054A (en) * | 1995-12-01 | 1998-01-06 | Intel Corporation | Method and apparatus for adjusting video data to limit the effects of automatic focusing control on motion estimation video coders |
US5661524A (en) * | 1996-03-08 | 1997-08-26 | International Business Machines Corporation | Method and apparatus for motion estimation using trajectory in a digital video encoder |
-
1996
- 1996-07-31 JP JP50747697A patent/JP3783238B2/ja not_active Expired - Lifetime
- 1996-07-31 US US08/817,342 patent/US5926224A/en not_active Expired - Lifetime
- 1996-07-31 WO PCT/JP1996/002161 patent/WO1997005745A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO1997005745A1 (en) | 1997-02-13 |
US5926224A (en) | 1999-07-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3783238B2 (ja) | 撮像システム、画像処理装置、符号化装置、符号化方法及びランダムノイズを除去する方法 | |
KR100803492B1 (ko) | 디지털 카메라와, 그것에 이용 가능한 메모리 제어 장치,화상 처리 장치 및 화상 처리 방법 | |
US8237815B2 (en) | Image processing apparatus, control method therefor, for suppressing deterioration of image quality caused by a foreign substance | |
JP4844305B2 (ja) | 撮像装置 | |
KR100893419B1 (ko) | 촬상 장치 및 촬상 방법 | |
EP1949705B1 (en) | Image signal processing apparatus | |
JPH10108121A (ja) | 電子カメラ | |
KR101238227B1 (ko) | 동화상 부호화장치 및 동화상 부호화방법 | |
JP3221785B2 (ja) | 撮像装置 | |
JP3592025B2 (ja) | 撮影画像記録装置 | |
JP4724639B2 (ja) | 撮像装置 | |
JPH08275049A (ja) | 撮像装置 | |
JP3984665B2 (ja) | 画像信号の符号化圧縮装置および方法 | |
WO2019142836A1 (ja) | 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム | |
JP2004180345A (ja) | 撮影画像記録装置 | |
JPH0865565A (ja) | 撮像記録装置 | |
JP3384910B2 (ja) | 撮像装置および画像再生装置 | |
JPH09186919A (ja) | 撮像装置 | |
JPH04373369A (ja) | 撮像装置 | |
JPH03272289A (ja) | 電子スチルカメラ | |
JPH07162853A (ja) | 撮像装置 | |
JP2007124371A (ja) | 映像信号処理装置及び方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20040213 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060221 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060306 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100324 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100324 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110324 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120324 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130324 Year of fee payment: 7 |