JP2012517765A - ビデオ用の強度補正を提供するための回路を有する集積回路、およびビデオ用の強度補正を提供する方法 - Google Patents

ビデオ用の強度補正を提供するための回路を有する集積回路、およびビデオ用の強度補正を提供する方法 Download PDF

Info

Publication number
JP2012517765A
JP2012517765A JP2011550140A JP2011550140A JP2012517765A JP 2012517765 A JP2012517765 A JP 2012517765A JP 2011550140 A JP2011550140 A JP 2011550140A JP 2011550140 A JP2011550140 A JP 2011550140A JP 2012517765 A JP2012517765 A JP 2012517765A
Authority
JP
Japan
Prior art keywords
frame
block
current block
previous
intensity correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011550140A
Other languages
English (en)
Other versions
JP5236085B2 (ja
Inventor
デルバ,ジャスティン・ジィ
サイード,モハメド・エス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xilinx Inc
Original Assignee
Xilinx Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xilinx Inc filed Critical Xilinx Inc
Publication of JP2012517765A publication Critical patent/JP2012517765A/ja
Application granted granted Critical
Publication of JP5236085B2 publication Critical patent/JP5236085B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Picture Signal Circuits (AREA)

Abstract

ビデオ用の強度補正を提供する方法が開示される。この方法は、ビデオのフレームの一部を評価するステップ(602)と、フレームの現在のブロックと前のフレームの対応するブロックとの強度の差を判断するステップ(604)と、第1の組のパラメータが満たされている場合、局所的強度補正を用いてフレームの全ブロックを補正するステップ(607)と、第1の組のパラメータが満たされていない場合、全体的強度補正および局所的強度補正の双方を用いてフレームの現在のブロックを補正するステップ(608、614)とを含み得る。ビデオ用の強度補正を提供するための回路を有する集積回路(202)も開示される。

Description

発明の分野
この発明は一般に集積回路に関し、特にビデオ用の強度補正を提供する方法に関する。
発明の背景
ビデオ監視市場では、ここ数年にわたり、価格の低下およびカメラ技術の向上に応えて需要が増大してきた。デジタル記録デバイスおよびビデオ解析が可能な新しい計算プラットホームの能力向上も、需要の増大に寄与してきた。ビデオ監視システムの用途は、侵入防止から、既知の閉鎖された環境、または空中監視用途といった未知の動的環境の双方における活動のモニタリングおよび追跡に及んでいる。さらに、より良好なビデオ解像度に対する要求が、ビデオ監視のために高品位(high definition:HD)レートを使用することに対する関心を引起した。
集積回路は、監視機器を含む電子デバイスの不可欠な部分である。ビデオ監視ネットワークといった電子デバイスの動作を可能にするために、さまざまな集積回路が共に使用されることが多い。集積回路は通常、ある特定の用途のために設計されるが、コンフィギュラブルロジックを有する集積回路もある。たとえば、特定用途向け集積回路(application specific integrated circuit:ASIC)は、コンフィギュラブルロジックを含む部分を有し得る。コンフィギュラブルロジックを有する別の種類の集積回路は、プログラマブルロジックデバイス(programmable logic device:PLD)である。プログラマブルロジックデバイスは、ユーザらが自分達で選択したロジック設計を実現できるよう、ユーザによってプログラミング可能となるよう設計されている。プログラマブルロジックデバイスの一種が、コンプレックスプログラマブルロジックデバイス(Complex Programmable Logic Device:CPLD)である。CPLDは、共に接続され、かつ相互接続スイッチマトリックスによって入力/出力(I/O)リソースに接続された2レベルAND/OR構造を有する2つ以上の「機能ブロック」を含む。別の種類のプログラマブルロジックデバイスは、フィールドプログラマブルゲートアレイ(field programmable gate array:FPGA)である。典型的なFPGAでは、コンフィギュラブルロジックブロック(configurable logic block:CLB)のアレイが、プログラマブル入力/出力ブロック(input/output block:IOB)に結合されている。CLBとIOBとは、プログラマブルルーティングリソースの階層によって相互接続されている。これら双方の種類のプログラマブルロジックデバイスについては、デバイスの機能性は、その目的のためにデバイスに提供されたコンフィギュレーションビットストリームのコンフィギュレーションデータビットによって制御される。
どの電子システムでも同様に、システムの品質を高め、コストを下げる要望は常に存在する。ビデオデータを取込むシステムは、どの種類の集積回路を用いても使用され得るが、画像品質および処理すべきデータの量は、顧客の要望を満たすシステムの実現において重大な問題をもたらす。
発明の概要
ビデオのフレーム用の強度補正を提供する方法の一実施例が開示される。この方法は、ビデオのフレームの一部を評価するステップと、フレームの現在のブロックと前のフレームの対応するブロックとの強度の差を判断するステップと、第1の組のパラメータが満たされている場合、局所的強度補正を用いてフレームの全ブロックを補正するステップと、第1の組のパラメータが満たされていない場合、全体的強度補正および局所的強度補正の双方を用いてフレームの現在のブロックを補正するステップとを含み得る。第1の組のパラメータが満たされている場合、局所的強度補正を用いてフレームの全ブロックを補正するステップは、フレームの現在のブロックと前のフレームの対応するブロックとの強度の差が予め定められたしきい値を超えているかどうか、および、全体的利得係数が予め定められた範囲外にあるかどうかを判断するステップを含み得る。全体的強度補正および局所的強度補正の双方を用いてフレームの現在のブロックを補正するステップは、全体的利得係数を用いてフレームの現在のブロックを補正するステップと、全体的利得係数を用いてフレームの現在のブロックを補正した後で、フレームの現在のブロックと前のフレームの対応するブロックとの強度の差を判断するステップと、局所的強度補正を用いてフレームの現在のブロックを補正するかどうかを判断するステップとを含む。
この実施例では、局所的強度補正を用いてフレームの現在のブロックを補正するかどうかを判断するステップは、全体的利得係数を用いてフレームの現在のブロックを補正した後の、フレームの現在のブロックと前のフレームの対応するブロックとの強度の差が、第2の予め定められたしきい値を超えているかどうかを判断するステップを含み得る。局所的強度補正を用いてフレームの現在のブロックを補正するかどうかを判断するステップは、全体的利得係数が予め定められた範囲外にあるかどうかを判断するステップを含み得る。この方法のこの実施例は、前の2つのブロックが歪んでいるかどうかを判断するステップと、前の2つのブロックが歪んでいない場合、歪んだブロックの数を用いて局所的強度カウンタを更新するステップとをさらに含み得る。加えて、この方法のこの実施例は、現在のフレームにおける前の2つのブロックが歪んでいる場合、前のブロックを補正するステップをさらに含み得る。
代替的な実施例によれば、ビデオのフレーム用の強度補正を提供する方法は、ビデオのフレームの一部を評価するステップと、フレームの現在のブロックと前のフレームの対応するブロックとの強度の差を判断するステップと、フレームの補正された現在のブロックと前のフレームの対応するブロックとの強度の差が予め定められたしきい値よりも小さい場合、または全体的利得係数が予め定められた範囲内にある場合、全体的利得係数を用いてフレームの現在のブロックを補正するステップと、全体的利得係数を用いてフレームの現在のブロックを補正した後で、フレームの現在のブロックと前のフレームの対応するブロックとの強度の差を判断するステップと、局所的強度補正を用いてフレームの現在のブロックを補正するかどうかを判断するステップとを含む。フレームの現在のブロックと前のフレームの対応するブロックとの強度の差が第2の予め定められたしきい値を超えており、全体的利得係数が予め定められた範囲外にある場合、フレームの各ブロックに対して局所的強度補正がブロック毎に行なわれてもよい。
この方法のこの実施例は、全体的利得係数を推定するステップと、フレームの現在のブロックと前のフレームの対応するブロックとの強度の差を判断する前に、全体的利得係数を用いてフレームの一部を補正するステップとをさらに含み得る。この実施例では、局所的強度補正を用いてフレームの現在のブロックを補正するかどうかを判断するステップは、全体的利得係数を用いてフレームの現在のブロックを第2の予め定められたしきい値に補正した後で、フレームの現在のブロックと前のフレームの対応するブロックとの強度の差を比較するステップと、全体的利得係数が予め定められた範囲外にあるかどうかを判断するステップとを含み得る。この方法のこの実施例は、全体的利得係数を用いてフレームの現在のブロックを補正した後の、フレームの現在のブロックと前のフレームの対応するブロックとの強度の差が、第2の予め定められたしきい値を超えたかどうかを判断するステップと、全体的利得係数が予め定められた範囲内にあるかどうかを判断するステップとをさらに含み得る。この実施例は、前の2つのブロックが歪んでいるかどうかを判断するステップと、前の2つのブロックが歪んでいない場合、歪んだブロックの数を用いて局所的強度カウンタを更新するステップとをさらに含み得る。加えて、この実施例は、現在のフレームにおける前の2つのブロックが歪んでいる場合、前のブロックを補正するステップをさらに含み得る。
ビデオのフレーム用の強度補正を提供するための回路を有する集積回路の一実施例も開示される。この集積回路は、ビデオに関連するデータのフレームを受信するよう結合されたバッファと、バッファに結合されたプロセッサとを含み、プロセッサはビデオのフレームの一部を分析し、フレームの補正された部分と前のフレームの対応する部分との強度の差が予め定められたしきい値よりも大きく、全体的利得係数が予め定められた範囲外にある場合、プロセッサは局所的強度補正を用いてフレームのブロックのすべてを補正し、前記集積回路はさらに、プロセッサに結合されたメモリを含み、メモリは、プロセッサによって生成されたフレーム用の補正された強度係数を受信する。
この実施例では、現在のフレームの補正された部分と前のフレームの対応する部分とは、現在のフレームの上から5行と前のフレームの上から5行とを含み得る。フレームの現在のブロックと前のフレームの対応するブロックとの強度の差が予め定められたしきい値よりも小さい場合、または全体的利得係数が予め定められた範囲内にある場合、プロセッサは、(1)全体的利得係数を用いてフレームの現在のブロックを補正し、(2)全体的利得係数を用いてフレームの現在のブロックを補正した後で、フレームの現在のブロックと前のフレームの対応するブロックとの強度の差を判断し、(3)局所的強度補正を用いてフレームの現在のブロックを補正するかどうかを判断することにより、フレームの現在のブロックを補正できる。プロセッサは、全体的利得係数を用いてフレームの現在のブロックを補正した後の、フレームの現在のブロックと前のフレームの対応するブロックとの強度の差が、第2の予め定められたしきい値を超えているかどうかを判断することにより、局所的強度補正を用いてフレームの現在のブロックを補正するかどうかを判断できる。プロセッサは、全体的利得係数が予め定められた範囲外にあるかどうかを判断することにより、局所的強度補正を用いてフレームの現在のブロックを補正するかどうかを判断できる。プロセッサはさらに、前の2つのブロックが歪んでいるかどうかを判断し、前の2つのブロックが歪んでいない場合、歪んだブロックの数を用いて局所的強度カウンタを更新し、現在のフレームにおける前の2つのブロックが歪んでいる場合、前のブロックを補正することができる。
この発明の一実施例に従った監視システムのブロック図である。 この発明の一実施例に従った、ビデオ画像の画素用のパラメータを受信するためのメモリに結合された集積回路のブロック図である。 この発明の一実施例に従った、フレームの画像強度を補正するためのフォーマットを選択するための回路のブロック図である。 この発明の一実施例に従った全体的強度補正を示すブロック図である。 この発明の一実施例に従った、フレーム用の強度値の更新を示すブロック図である。 この発明の一実施例に従った、ビデオ画像用の強度補正を提供する方法を示すフローチャートである。 この発明の一実施例に従った、全体的および局所的強度補正を提供するための回路のブロック図である。 この発明の一実施例に従った、図1〜7の回路を実現するためのプログラマブルロジックデバイスのブロック図である。 この発明の一実施例に従った、図8の回路のコンフィギュラブルロジック素子のブロック図である。
図面の詳細な説明
まず図1を参照すると、この発明の一実施例に従った監視システムのブロック図が示されている。図1に示すように、監視システム100は、制御コンピュータ102に結合された複数の同様のカメラシステム101を含む。各カメラシステム101はカメラ103を含み、それは一般に入手可能であり、高品位テレビ(HDTV)規格などの予め規定された規格に従ってビデオ画像を生成し得る。カメラは、カメラシステムのデータ処理ブロック104に結合されており、それは、プログラマブルロジックを有する集積回路106と、プロセッサ108とを含んでいてもよい。以下により詳細に説明するように、プロセッサは、プログラマブルロジックを有する集積回路に組込まれていてもよい。
画像調整ブロック110はカメラと連携して、必要に応じて非インターレースを行ない、必要に応じて入力データレートのアップ/ダウンコンバートを行ない、また、画像安定化およびフレーム間整列のために全体的な動き補償を行なう。また、これに代えて、カメラが画像調整ブロックの機能を提供してもよい。強度補正ブロック112は、環境およびカメラの自己調節機能の双方によって生じる光の変化に自動的に適応し、フレーム間の円滑な強度遷移を維持する。背景推定ブロック114は、ごちゃごちゃした物体および動く物体の存在下で背景を判断し、以下により詳細に説明するように動く物体を検出するために、きれいな前景のセグメント化を可能にする。背景推定ブロック114は、背景の推定を生成する。影除去ブロック116は、影が前景として検出されることを防止し、一方、物体追跡ブロック118は、検出された物体の動きがフレーム間で追跡されるようにする。すなわち、追跡される物体は、物体に関連する画素の経時変化によって識別されてもよく、ここで、その変化は、動く物体と見なすための予め定められた基準を満たしている。物体追跡情報を生成するために、背景と物体に関連する影とが除去される。エンコーダ120はビデオストリームを圧縮し、その後ビデオストリームはネットワークチャネルに送られる。制御コンピュータは次に、対象となる物体を、改良された解像度で、長い期間にわたってより容易に識別するために、解凍されたビデオ信号と共に物体追跡情報を用いてもよい。
物体追跡情報などの低帯域幅分類情報は、分類ブロック122で生成され、メタデータと共にメタデータバッファ124に格納されてもよい。メタデータは、たとえば、ビデオを撮った日付と、レンズ、焦点距離、絞り、シャッタタイミング、ホワイトバランスといったカメラ設定の詳細とを含んでいてもよい。プロセッサ108はまた、エンフォーサ128に応答してカメラ制御機能126を提供してもよい。ネットワークインターフェイス130は、ネットワーク通信リンク129に、符号化されたビデオデータ、メタデータ、およびカメラ制御情報を提供する。制御コンピュータ102は、各カメラシステム101用のネットワークインターフェイス130からデータを受信するために、ネットワーク通信リンク129に結合されている。制御コンピュータは、1つ以上のカメラシステムのために画像を表示するためのモニタを有する任意の種類の汎用コンピュータであってもよい。通信リンク129は、任意の種類の、電気通信ネットワークなどの有線または無線通信ネットワーク、もしくはローカルエリアネットワーク(local area network:LAN)または広域ネットワーク(wide area network:WAN)などのデータネットワークの一部であってもよい。低帯域幅機能は、集積回路の外部のプロセッサに帰属させてもよく、それは、たとえば、プログラマブルロジックを有する集積回路、またはプログラマブルロジックを有する集積回路の埋込まれたプロセッサコア、たとえば埋込まれたプロセッサコアを有するFPGAであってもよい。データ処理ブロック104はカメラから離れて図示されているが、データ処理ブロックの一部または全体がカメラに組込まれていてもよい。同様に、制御コンピュータ102はカメラシステムから離れて図示されているが、制御コンピュータは1つ以上のカメラシステムに組込まれていてもよい。
監視システムのカメラシステムと共にデータ処理ブロック104を採用することにより、低コストの監視システムが実現される。しかしながら、有益な物体追跡情報を提供するには、強度補正、背景推定、および影除去を行なわなければならない。各カメラについて強度補正および背景推定などの高処理帯域幅機能を実現することにより、物体追跡を提供するために処理集中型機能が制御コンピュータから遠隔で実現されてもよく、ここで、ビデオ画像および物体追跡情報を表わす圧縮されたデータが、制御コンピュータに提供される。
ここで図2を参照すると、この発明の一実施例に従った、ビデオ画像の画素用のパラメータを受信するためのメモリに結合された集積回路のブロック図が示されている。集積回路202は、強度補正ブロックと、背景推定および減算ブロックとの双方を提供するハードウェアアクセラレータを含む。特に、集積回路202は、集積回路202が生成したデータを格納するためのオフチップメモリ204に結合されてもよい。画像調整回路110といった画像調整回路の出力を受信するために、画素バッファ206が結合される。画素バッファの出力は、全体的および局所的強度補正ブロック208に結合される。全体的および局所的強度補正ブロック208の出力か、または夜間コントラスト強化ブロック210によって処理されたデータのいずれかが、マルチプレクサ211によって選択され、適応背景推定および減算ブロック212に結合される。以下により詳細に説明するように、図2の回路は、フレームを格納する必要なく、HDシーケンスに対してビデオセグメント化を行ない、したがって、外部メモリ帯域幅の点で効率的な回路を提供する。この回路はまた、集積回路上の所要面積の点で小さく、監視市場において広範に使用され得る。
人間の目の受容体は、波長が400nm〜700nmの光しか検出できない。これらの受容体は錐体と呼ばれ、赤色光用のもの、緑色光用のもの、および青色光用のものを含む3つの異なる種類がある。ある単一波長の光が観察されると、これら3つの受容体の相対感度により、いわゆる光の色が識別される。この現象は極めて有用である。なぜなら、それにより、たった3つの異なる波長からの光をさまざまな比率で一緒に加えるだけで、さまざまな色が生成できるためである。加法混色として知られるこのプロセスはカラーテレビシステムで利用されており、ここでは、結果として生じる表示すべき画像が、表示すべき画像素子または画素のアレイへと分解される。
一般に、各画素は、ある比率の赤、緑または青い色を表示する。赤、青および緑での画像の表示は通常、RBGと呼ばれている。しかしながら、これらのRBG色成分の送信または格納はかなりの帯域幅を必要とし、集積回路は、高品位テレビ(HDTV)画像における大量のデータなどのデータをなかなか処理できない場合がある。したがって、表示すべき画像の帯域幅を減少させるために、輝度および色差の符号化がしばしば使用される。たとえば、YUVフォーマットは、明るさに関連する輝度成分(ルーマ(Luma)としても公知)を表わすY部分と、色に関連する彩度成分(クロマ(Chroma)1およびクロマ2としても公知)を表わすU部分およびV部分とを含む。帯域幅の減少に加えて、YUVフォーマットは、標準RBGフォーマットよりも忠実に、人間の色の認識をモデル化している。YUV420は、4ルーマ(Y)バイト毎に2つのクロマバイト(CrとCbとが交互)があることを意味している。YUVフォーマットによって提供された減少した帯域幅を用いても、HDTVフォーマットはかなりのデータ要件を有する。1つのHDTVフレームは1920×1080個の画素を有する場合があり、従来の標準品位TVの帯域幅の6倍を使用する場合がある。したがって、背景画像として格納されるデータの量の減少が有益である。
図2に示すように、画像の背景部分に関連するパラメータを生成するために、全体的および局所的強度補正と、適応背景推定および減算とが実現される。ビデオは、フレームとしても公知の画像のシーケンスを含む。フレーム間の差に基づいた背景推定アルゴリズムは、さまざまな背景シーンを扱う際にエラーを起こしやすい。画素の時間的中央値フィルタリングを行なう方法は実質的なフレームバッファリングを必要とし、このためそれらは、極めて動的なシーンにとって魅力のないものとなる。画素のオンライン時間的平均値を得ることに基づいた適応背景方法は、フレームバッファリングをそれほど必要としないが、実際のシーンでは、1つの画素は時間とともに2つ以上の平均値を有する場合があり、ここで、各平均値はその画素の異なる背景モードを表わす。そのような画素はマルチモーダルであり、オンライン平均手法において単一の統計的表示を用いる際にそのようなものとして適正に特徴付けられない。マルチモーダル背景画像シーケンスをモデル化するために正規分布の混合を使用する適応方法が、使用されてもよい。各画素について、その背景混合における各正規分布は、その画素においてある特定の強度または色を観察する確率に対応している。これは、2つ以上の表面が画素の表示に現れることによって背景のごちゃごちゃが生成されるシーンと一致している。各表面は、表面の強度または色に等しい平均値と、表面の質感、照明の変動、またはカメラノイズによる差異とを有する正規分布によって表わされる。図3の回路によれば、全体的強度補正および局所的強度補正の双方を使用する強度補正を採用することによって、データ転送要件の減少も達成され得る。すなわち、局所的強度補正は処理集中型であるため、以下に述べる全体的および局所的強度補正を提供する方法は、画素用の強度値に対する更新要件も減少させ、したがって、データ送信に必要な帯域幅も減少させ得る。
Figure 2012517765
ビデオ監視システムは、光の条件を十分制御している十分に制約された環境では、一般に良好に機能する。ビデオ監視と動く物体の検出および追跡とにおいて使用されるアルゴリズムの多くは一定の画像強度を仮定しているため、環境光の変化は、これらのアルゴリズムの性能に影響を与える場合がある。画像強度の変化は、全体的強度変化と局所的強度変化とに分類され得る。全体的強度変化とは、フレーム全体に均一に影響を与える、バランスのとれた変化である。たとえば、全体的強度変化は、灯りがスイッチオンまたはオフされることによる、もしくは雲が太陽の前を動くことによる照明の変化によって生じる場合がある。加えて、カメラは、そのデジタイザのダイナミックレンジに反射光を最適にマッピングするよう、技術の組合せを採用しており、画像強度を変更する場合がある。通常使用される技術は、視野における光の量に従って露光を設定するために使用される自動利得制御(Automatic Gain Control:AGC)、あらゆる色の強度を補正するためにカメラの基準を「真の白」に適応させる自動ホワイトバランス、および、レンズを通過する光の量(すなわち露光)を制御するために使用される自動絞り制御である。暗い物体と明るい物体とを同時に有するシーンでは、AGCは、レベルを平均化しようとして明るくなり過ぎるかまたは暗くなり過ぎることにより、過大/過小に補償する場合がある。また、局所的強度変化は、フレームの領域にその残りよりも影響を与えるバランスの悪い変化をもたらす場合があり、カメラのフラッシュのように突然、短期間起こる場合がある。
画像強度は以下のようにモデル化され得る。
Figure 2012517765
ここで、I(t)は現在の画像強度、Ir(t)は基準画像強度、a(t)は見かけ利得係数、Ntotal(t)はゼロ平均の総ノイズである。全体的強度変化は、式1に示すような見かけ利得係数を用いて補正され得る。
Figure 2012517765
Figure 2012517765
シーケンスの第1のフレームは、基準画像として使用されてもよい。シーンが変わると、シーケンスの第1のフレームを基準画像として使用することはあまり良好に機能しない場合があるため、基準画像を定期的に更新することが可能であり得る。たとえば、基準画像は、数フレーム毎に基準画像を選択することによって、または前のフレームを基準画像として使用することによって更新されてもよい。いずれの場合も、基準画像は、未補正の画像かまたは以前に補正された画像であってもよい。選択された基準画像が歪んでいた場合、未補正の画像は歪んだ出力をもたらす場合があり、一方、以前に補正された画像は、補正エラーを伝搬させる可能性がある。
式2のa(t)を計算する4つの式は、以下を含む。
Figure 2012517765
Figure 2012517765
局所的強度補正は、画像強度変化のより進化したモデルを必要とする。以下の式は、進化したモデルを提供する。
Figure 2012517765
ここで、xおよびyは個別の空間座標であり、tはフレーム数である。Y(x,y,t)およびI(x,y,t)はそれぞれ、観察された画像強度および元の画像強度である。α(x,y,t)およびβ(x,y,t)はそれぞれ、乗算強度変化パラメータおよび加算強度変化パラメータである。
α(x,y,t)およびβ(x,y,t)が空間的に滑らかである場合、それらは局所的に一定であると仮定され得る。
Figure 2012517765
そのため、各領域について、以下が成立する。
Figure 2012517765
良好に近似させるために、静止領域については、以下が真である。
Figure 2012517765
そのため、画像は以下のように補正され得る。
Figure 2012517765
動きのある領域についてはより複雑な操作が必要とされるが、画像強度補正は通常、動きがない場合にフレームの一部を用いて行なわれる。
図4は、この発明の一実施例に従った全体的強度補正(global intensity correction:GIC)を示すブロック図である。GICブロックは、図4に示す補正段階と図5に示す更新段階という2つの段階を有する。補正段階は見かけ利得係数方法を用いて行なわれ、ここで、a(t)値が次に、式6に示すような商の中央値の式を用いて計算され得る。参照用の全フレームおよび現在の画像を格納することを避けるために、現在の画像および基準画像の上から数行のみを使用して、現在のフレームY(t)全体を補正するために使用される見かけ利得係数a(t)を求める。一実施例によれば、フレームの上の部分は大抵、背景の部分であるため、上から数行を使用することは、a(t)を求めるのに十分である。加えて、a(t)を求めるのに式6の商の中央値の式を使用することは、異常値の除去なしでも良好な結果を与える。したがって、フレームの上の部分に動く物体がある場合でも、a(t)を求める商の中央値の式は十分であり、a(t)を求めるのにフレームの上の部分だけが依然として使用され得る。したがって、a(t)を計算するのに、典型的には上から5行が使用され得る。
Figure 2012517765
ここで図5を参照すると、ブロック図は、この発明の一実施例に従った、フレーム用の強度値の更新を示している。補正段階の後、基準画像が更新される。以下の式に示すように、バッファ502に格納された現在のフレームの上から5行の平均値とバッファ504に格納された補正されたフレームの上から5行の平均値との絶対差が、しきい値Th1と比較される。
Figure 2012517765
Figure 2012517765
ここで図6を参照すると、フローチャートは、この発明の一実施例に従った、ビデオ画像用の強度補正を提供する方法を示している。現在のフレームと前のフレームとの比較に依存して、全体的強度補正および局所的強度補正が行なわれる。GICブロックは、前のフレームから学んだ知識を用いることによって現在のフレームを補正する。各フレームを十分に特徴付けるために、統計学的に静止した区域(statistically stationary area:SSA)が使用される。多くのビデオにとって、SSAは、フレームの左、右および上の境界を縁取る帯状部分からなる、カメラによって取込まれた区域である。動きを有するフレームの部分は通常、フレームの中央を占めており、SSAの外部にある。したがって、SSAにおけるデータは動く物体の部分を含む可能性が低く、動く物体の発生は一時的であり、以下により詳細に説明するように効率的に扱われる。全体的強度補正ブロック302などのGICブロックは、現在のフレームの最初の5行をSSAとして使用し、それは、フレーム間の背景画像の特徴を判断するのに十分である。ステップ602で、GICブロックは、見かけ利得係数a(t)を推定し、それを用いて現在のフレームの最初の5行を補正する。全体的利得係数を推定し、それを用いて最初の5行を補正するための回路は、図4および図5で説明されている。ステップ604で、以下の式に示すように、補正されたフレームおよび前のフレームの最初の5行の平均強度の絶対差が求められ、しきい値Th2と比較される。
Figure 2012517765
Th2の値はユーザによって定められる。小さい値のTh2を用いると、小さい局所的強度変化を補正するために局所的強度補正をより頻繁に使用することになり、一方、大きい値のTh2を用いると、大きな局所的強度変化があった場合にのみ局所的強度補正が実行されるようになる。
絶対差がTh2よりも大きく、かつ見かけ利得係数が予め定められた範囲外にある(すなわち、a(t)>1.1またはa(t)<0.9)場合、GICブロックによって補正されなかった局所的強度変化が存在する。その場合、ステップ607で、元のフレームが、局所的強度ブロック304などのLICブロックを用いて補正され、ここで現在のフレームの全ブロックが補正されるであろう。すなわち、局所的強度変化を有するフレームは、8×8の画素サイズを有するブロックといった小さい矩形のブロックに分割される。各ブロックについて、補正パラメータαm, n(t)およびβm, n(t)が推定され、αm, n(t)およびβm, n(t)の値は画像強度を補正するために使用される。一実施例によれば、動きを取入れている領域を扱うのに、高度な操作は使用されない。強度補正プロセスの計算コストを減少させるために、局所的強度補正は、好ましくは、あらゆるフレームに対して適用されるわけではない。局所的強度補正はぼやけアーチファクトをフレームに生じさせる場合があるため、必要な場合以外、局所的強度補正を使用しないことが好ましい。動きのある領域ではいくつかのぼやけアーチファクトが認識される場合があるが、ぼやけアーチファクトは、適応背景推定および減算ブロックを含む、図2に示すような全体的および局所的強度補正ブロックの次のブロックの効率を悪化させることはない。
絶対差がTh2よりも少なく、または見かけ利得係数が予め定められた範囲内にある(0.9<a(t)<1.1)場合、フレームは小さいブロック(たとえば8×8個の画素)に分割される。すなわち、フレームは何行ものブロックに分割され、各ブロックは、見かけ利得係数a(t)を用いて、およびおそらく局所的強度補正を用いて補正される。各ブロックを補正するかどうかの判断は、ブロック毎に行なわれる。ステップ608で、各ブロックは見かけ利得係数a(t)を用いて補正され、ステップ610で、フレームの補正されたブロックと前のフレームの対応するブロックとの平均強度の絶対差が求められる。この絶対差は次に、ステップ612で、第2のしきい値(たとえば10×Th2)と比較される。現在のブロックの平均強度が前のフレームの対応するブロックよりもはるかに大きく、見かけ利得係数が予め定められた範囲外にある(すなわち、a(t)>1.1またはa(t)<0.9)と判断された場合、ステップ614で、現在のブロックは局所的強度補正を用いて補正される。
現在のブロックの平均強度が前のフレームの対応するブロックよりもはるかに大きいか、または、見かけ利得係数が予め定められた範囲外にある(すなわち、a(t)>1.1またはa(t)<0.9)と判断されなかった場合、ステップ616で、現在のブロックの平均強度が前のフレームの対応するブロックよりもはるかに大きく、見かけ利得係数が予め定められた範囲内にある(すなわち、0.9<a(t)<1.1)かどうかが判断される。そうである場合、ステップ618で、前の2つのブロックが歪んでいるかどうかが判断される。前の2つのブロックが歪んでいない場合、ステップ620で、局所的強度カウンタが、歪んだブロックの数を用いて更新される。前の2つのブロックが歪んでいる場合、ステップ622で、現在のフレームにおける前のブロックが局所的強度補正を用いて補正される。次に、ステップ624で、ブロックの現在の行の最後に達しているかどうかが判断される。そうである場合、ステップ626で、現在のフレームにおける現在のブロックが局所的強度補正を用いて補正される。次に、ステップ628で、現在のフレームの最後に達していたかどうかが判断される。すなわち、各ブロックは、その前のブロックと次のブロックとが歪んでいれば補正されるため、行の最後のブロックは、前のブロックが歪んでいれば補正される。現在のフレームの最後ではない場合、ステップ630で、次のブロックを処理する必要があると判断され、ステップ608で、次のブロックが見かけ利得係数a(t)を用いて補正される。フレームの最後に達した場合、ステップ632で、ビデオの最後のフレームに達したかどうかが判断される。ビデオの追加のフレームを処理すべき場合、ステップ602で、次のフレーム用のプロセスが再度始まる。
ここで図7を参照すると、この発明の一実施例に従った、全体的強度補正および局所的強度補正を提供するための回路のブロック図が示されている。全体的および局所的強度補正ブロック208への入力は、ラスター走査順序のRGBフレームである。RGBフレームはYUVフォーマットに変換され、色成分は4:2:0フォーマットにダウンサンプリングされて、ラインバッファ1および3に8行の画素を格納するためにメモリを節約する。すべての強度補正ステップは輝度成分のみを処理するが、次の段階にとって必要なRGBフォーマットに画像を再変換するには、色成分を格納しなければならない。全体的および局所的強度補正ブロック208は、入力画素、出力画素、および基準画素を格納するために、3つのラインバッファを使用する。それは、局所的強度補正にとって必要な、現在のフレームからのブロックの現在の行および基準フレーム(すなわち、前のフレーム)からのブロックの対応する行の双方の平均値ならびに標準偏差を格納するために、2つのローカルメモリを有する。加えて、全体的強度補正用の前の3つのフレームの上から5行(輝度のみ)と、局所的強度補正用の基準フレームの8×8個のブロックの平均値および標準偏差とを格納するために、外部メモリが使用される。
特に、全体的および局所的強度補正回路208は、RGB−YUV変換器702でRGB画像を受信し、その画像をYUV画像に変換するよう結合されており、その出力は、マルチプレクサ704およびラインバッファ706に結合されている。マルチプレクサ704およびラインバッファ706の出力は、複数の除算器回路を有する算術演算ロジックブロック708に結合されている。マルチプレクサ704は、RGB−YUV変換器702かまたはラインバッファ706の出力を選択し、その出力は、ラインバッファ716を介して基準の5行も受信する除算器710に結合されている。すなわち、中央値回路714は、ラインバッファ716により、前の3つのフレーム402、404および406の上から5行の中央値を除算器回路710に結合している。算術演算ブロックの出力はラインバッファ718に結合され、その出力はYUV−RGB変換器720に結合されている。マルチプレクサ722が、ラインバッファ706かまたはラインバッファ718の出力を受信し、値を外部メモリに提供するよう、結合されている。
算術演算ロジックブロック730も、算術演算ロジックブロック708の出力およびラインバッファ718の出力を受信するよう結合されている。以下により詳細に説明するように、上述のさまざまな計算を行なうために、除算器および累算器を有する算術演算ブロックが使用されてもよい。算術演算ロジックブロック730は第1の累算器732を含み、第1の標準偏差回路734は、ブロックの現在の行の平均値E[]および標準偏差値σ[]を格納するためのブロック735に結合されている。同様に、第2の累算器736および第2の標準偏差回路738は、マルチプレクサ742および744により、ブロックの基準行の平均値E[]および標準偏差値σ[]を格納するためのブロック746に結合されている。ブロック746の出力は乗算器750に結合されており、それは減算器752に出力を提供し、減算器752はブロック735の出力も受信するよう結合されている。減算器752の出力は減算器754に結合されており、それはラインバッファ706の出力も受信する。乗算器750は除算器ブロック708の出力を受信し、一方、ブロック735および746ならびに減算器754の出力が除算器708に結合されている。最後に、ブロック735またはブロック746の出力のうちの一方がマルチプレクサ756によって選択され、その出力はオフチップメモリ204に結合され得る。
Figure 2012517765
ここで図8を参照すると、この発明の一実施例に従った、図1〜7の回路を実現するためのプログラマブルロジックデバイスのブロック図が示されている。図8のデバイスは、マルチギガビット送受信機(multi-gigabit transceiver:MGT801)と、コンフィギュラブルロジックブロック(CLB802)と、ランダムアクセスメモリブロック(random access memory block:BRAM803)と、入力/出力ブロック(IOB804)と、コンフィギュレーションおよびクロッキングロジック(CONFIG/CLOCKS805)と、デジタル信号処理ブロック(digital signal processing:DSP806)と、特化入力/出力ブロック(I/O807)(たとえば、コンフィギュレーションポートおよびクロックポート)と、デジタルクロックマネージャ、アナログ−デジタル変換器、システムモニタリングロジックなどのその他のプログラマブルロジック808とを含む、多数の異なるプログラマブルタイルを有するFPGAアーキテクチャ800を含む。FPGAの中には、専用プロセッサブロック(processor block:PROC810)を含むものもある。図7のさまざまなメモリは、BRAMで、またはCLEの分散メモリで実現されてもよい。算術演算ロジックブロックはDSPブロックで実現されてもよく、一方、制御ユニット740は専用プロセッサブロックで実現されてもよい。
一部のFPGAでは、各プログラマブルタイルは、隣接する各タイルの対応する相互接続素子との標準化接続を有するプログラマブル相互接続素子(interconnect element:INT811)を含む。したがって、これらのプログラマブル相互接続素子を合わせると、図示されたFPGA用のプログラマブル相互接続構造が実現される。プログラマブル相互接続素子(INT811)はまた、図8の上部に含まれる例によって示されるように、同じタイル内のプログラマブルロジック素子との接続も含む。
たとえば、CLB802は、ユーザロジックを実現するようプログラミングされ得るコンフィギュラブルロジック素子(configurable logic element:CLE812)と、単一のプログラマブル相互接続素子(INT811)とを含んでいてもよい。BRAM803は、1つ以上のプログラマブル相互接続素子に加えて、BRAMロジック素子(BRL813)を含んでいてもよい。BRAMは、コンフィギュレーションロジックブロックの分散されたRAMから離れた専用メモリを含む。通常、1つのタイルに含まれる相互接続素子の数は、そのタイルの高さに依存する。図示された実施例では、BRAMタイルは4つのCLBと同じ高さであるが、他の数(たとえば5つ)も使用可能である。DSBタイル806は、適切な数のプログラマブル相互接続素子に加えて、DSPロジック素子(DSPL814)を含んでいてもよい。IOB804は、1インスタンスのプログラマブル相互接続素子(INT811)に加えて、たとえば、2インスタンスの入力/出力ロジック素子(IOL815)を含んでいてもよい。デバイスの接続の場所は、その目的のためにデバイスに設けられたコンフィギュレーションビットストリームのコンフィギュレーションデータビットによって制御される。以下により詳細に説明するように、プログラマブル相互接続は、コンフィギュレーションビットストリームのビットに応答して、プログラマブルロジックで実現された回路、もしくはBRAMなどの他の回路、またはプロセッサにさまざまな信号を結合するために、相互接続線を含む接続が使用されることを可能にする。
図示された実施例では、ダイの中央近くの列区域(図8に影付きで示す)が、コンフィギュレーション、クロック、および他の制御ロジック用に使用される。この列から延びる水平区域809は、FPGAの幅にわたってクロックおよびコンフィギュレーション信号を分配するために使用される。図8に示すアーキテクチャを利用するFPGAの中には、FPGAの大部分を構成する規則的な列構造を乱す追加のロジックブロックを含むものもある。追加のロジックブロックは、プログラマブルブロックおよび/または専用ロジックであってもよい。たとえば、図8に示すプロセッサブロックPROC810は、CLBおよびBRAMの数列分に及んでいる。
なお、図8は例示的なFPGAアーキテクチャを単に例示するよう意図されている。1列におけるロジックブロックの数、列の相対的な幅、列の数および順序、列に含まれるロジックブロックの種類、ロジックブロックの相対的なサイズ、および図8の上部に含まれる相互接続/ロジック実現化例は、単なる例示である。たとえば、実際のFPGAでは、CLBがどこに出現しても、CLBの2つ以上の隣接する列が通常含まれており、ユーザロジックの効率的な実現を容易にする。この発明の回路および方法は、図8のPLDで、またはプログラマブルロジックを有する任意の種類の集積回路を含む任意の他の好適なデバイスで実現されてもよい。実際、FPGAの使用を最大にする応用分野は、カメラのレベルで行なわれるビデオ解析にある。図1は、ともにネットワーク化されたFPGAを含むリンクされたカメラシステムの一例を示す。FPGAはビデオ解析を行ない、それらのそれぞれのカメラを制御可能である。FPGAは、高品位(HD)レートでのビデオ画像の生成を含む、ビデオ監視用のデータレートをサポートするために必要な帯域幅の増加から生じる課題に取組みのに、完全に適している。
ここで図9を参照すると、この発明の一実施例に従った、図8のデバイスのコンフィギュラブルロジック素子のブロック図が示されている。特に図9は、図8のコンフィギュレーションロジックブロック802のコンフィギュラブルロジック素子を簡略化された形で示している。図9の実施例では、スライスM1001は4つのルックアップテーブル(LUTM)901A〜901Dを含み、それらは各々6つのLUTデータ入力端子A1〜A6、B1〜B6、C1〜C6、およびD1〜D6によって駆動され、各々2つのLUT出力信号O5およびO6を提供している。LUT901A〜901DからのO6出力端子は、スライス出力端子A〜Dをそれぞれ駆動する。LUTデータ入力信号は、入力マルチプレクサを介して、FPGA相互接続構造によって供給され、LUT出力信号も相互接続構造に供給される。スライスMはまた、出力端子AMUX〜DMUXを駆動する出力選択マルチプレクサ911A〜911Dと、メモリ素子902A〜902Dのデータ入力端子を駆動するマルチプレクサ912A〜912Dと、組合せマルチプレクサ916、918および919と、バウンスマルチプレクサ回路922〜923と、(ともに入力クロック経路に対してオプションの反転を提供する)インバータ905およびマルチプレクサ906によって表わされる回路と、マルチプレクサ914A〜914D、915A〜915D、920〜921、および排他的ORゲート913A〜913Dを含むキャリーロジックとを含む。これらの全素子は、図9に示すようにともに結合されている。図9に示すマルチプレクサについて選択入力が図示されていない場合、それらの選択入力はコンフィギュレーションメモリセルによって制御される。すなわち、コンフィギュレーションメモリセルに格納されたコンフィギュレーションビットストリームのコンフィギュレーションビットは、マルチプレクサへの正しい入力を選択するために、マルチプレクサの選択入力に結合される。周知であるこれらのコンフィギュレーションメモリセルは、分かりやすくするために、図9から、およびここにある他の選択された図面から省略されている。
図示された実施例では、各メモリ素子902A〜902Dは、同期型または非同期型のフリップフロップもしくはラッチとして機能するようプログラミングされてもよい。同期型および非同期型の機能性の選択は、同期/非同期選択回路903をプログラミングすることにより、スライスのすべての4つのメモリ素子について行なわれる。S/R(セット/リセット)入力信号がセット機能を提供するようメモリ素子がプログラミングされると、REV入力端子はリセット機能を提供する。S/R入力信号がリセット機能を提供するようメモリ素子がプログラミングされると、REV入力端子はセット機能を提供する。メモリ素子902A〜902Dはクロック信号CKによってクロックされ、それは、全体的クロックネットワークによって、またはたとえば相互接続構造によって提供され得る。そのようなプログラマブルメモリ素子は、FPGA設計の分野で周知である。各メモリ素子902A〜902Dは、登録された出力信号AQ〜DQを相互接続構造に提供する。各LUT901A〜901Dは2つの出力信号O5およびO6を提供するため、LUTは、共有された5つの入力信号(IN1〜IN5)を有する2つの5入力LUTとして、または入力信号IN1〜IN6を有する1つの6入力LUTとして構成されてもよい。
図9の実施例では、各LUTM901A〜901Dは、いくつかのモードのうちのいずれかで機能し得る。ルックアップテーブルモードの場合、各LUTは、入力マルチプレクサを介してFPGA相互接続構造によって供給される6つのデータ入力信号IN1〜IN6を有する。信号IN1〜IN6の値に基づいて、コンフィギュレーションメモリセルから、64個のデータ値のうちの1つがプログラム可能に選択される。RAMモードの場合、各LUTは、単一の64ビットRAMとして、または共有アドレシングを有する2つの32ビットRAMとして機能する。RAM書込データは、入力端子DI1を介して(LUT901A〜901Cについてはマルチプレクサ917A〜917Cを介して)64ビットRAMに供給され、または入力端子DI1およびDI2を介して2つの32ビットRAMに供給される。LUT RAMでのRAM書込動作は、マルチプレクサ906からのクロック信号CKによって、およびマルチプレクサ907からの書込イネーブル信号WENによって制御され、マルチプレクサ907は、クロックイネーブル信号CEか書込イネーブル信号WEのいずれかを選択的に通過させ得る。シフトレジスタモードでは、各LUTは、2つの16ビットシフトレジスタとして、またはその2つの16ビットシフトレジスタが単一の32ビットシフトレジスタを作り出すよう直列結合された状態で機能する。入力端子DI1およびDI2の一方または双方を介して、シフトイン信号が提供される。LUT出力端子を通して、16ビットおよび32ビットシフトアウト信号が提供されてもよく、32ビットシフトアウト信号はまた、LUT出力端子MC31を介してより直接的に提供されてもよい。LUT910Aの32ビットシフトアウト信号MC31はまた、出力選択マルチプレクサ911DおよびCLE出力端子DMUXを介して、シフトレジスタ連鎖のために相互接続構造全体に提供されてもよい。この発明のプログラマブルロジックおよび方法を有するデバイスは、図8および図9のデバイスに従って、またはプログラマブルロジックを有する任意の種類の集積回路を含む任意のデバイスで実現されてもよい。
回路は、ザイリンクス インコーポレイテッド(Xilinx, Inc.)から入手可能なバーテックス(Virtex)4 FPGAなどのプログラマブルロジックデバイスで効果的に実現されてもよい。リソースは、1920×1080のフレームサイズおよび30フレーム/秒のフレームレートで推定されてもよい。推定されたリソースは、各々10個のブロックRAMを用いたラインバッファ706および718を含む。ラインバッファ716は、5個のブロックRAMと、平均値および標準偏差値を格納するためのメモリ735および746などの2つのメモリ用の1個のブロックRAMとを使用し、合計26個のブロックRAMになる。前の3つの画像の上から5行、ならびに前の画像の8×8個のブロックの平均値および標準偏差のための外部メモリサイズおよび帯域幅が、外部メモリに格納され、新しい画像毎に更新される。したがって、必要とされる外部メモリサイズはおよそ、1920×5×3×8ビット+((1920×1080)/(8×8))×32ビット=1,267,200ビット≒1.3Mビットである。新しい各画像について、外部メモリのデータが読出され、更新される。最も古い前の画像の上から5行に、前述のような元の現在の画像または補正された画像からの新しい上から5行が上書きされる。したがって、1秒当たりに読出される総データはおよそ、(1920×5×3×8ビット+((1920×1080)/(8×8))×32ビット)×30=38,016,000ビット/sである。1秒当たりに書込まれる総データはおよそ、(1920×5×1×8ビット+((1920×1080)/(8×8))×32ビット)×30=33,408,000ビット/sである。最後に、総外部メモリ帯域幅は71,424,000≒72Mビット/sである。
したがって、ビデオ画像用の強度補正を提供する新しく新規の集積回路および方法が説明されてきたことが理解され得る。開示された発明を取入れている多くの代替例および均等物が存在すると見られることは、当業者には理解されるであろう。その結果、この発明は、前述の実施例によって限定されるものではなく、添付された請求項によってのみ限定されるものである。

Claims (13)

  1. ビデオのフレーム用の強度補正を提供する方法であって、
    ビデオのフレームの一部を評価するステップと、
    フレームの現在のブロックと前のフレームの対応するブロックとの強度の差を判断するステップと、
    第1の組のパラメータが満たされている場合、局所的強度補正を用いてフレームの全ブロックを補正するステップと、
    第1の組のパラメータが満たされていない場合、全体的強度補正および局所的強度補正の双方を用いてフレームの現在のブロックを補正するステップとを含む、方法。
  2. 第1の組のパラメータが満たされている場合、局所的強度補正を用いてフレームの全ブロックを補正するステップは、フレームの現在のブロックと前のフレームの対応するブロックとの強度の差が予め定められたしきい値を超えているかどうか、および、全体的利得係数が予め定められた範囲外にあるかどうかを判断するステップを含む、請求項1に記載の方法。
  3. 全体的強度補正および局所的強度補正の双方を用いてフレームの現在のブロックを補正するステップは、
    全体的利得係数を用いてフレームの現在のブロックを補正するステップと、
    全体的利得係数を用いてフレームの現在のブロックを補正した後で、フレームの現在のブロックと前のフレームの対応するブロックとの強度の差を判断するステップと、
    局所的強度補正を用いてフレームの現在のブロックを補正するかどうかを判断するステップとを含む、請求項1または2に記載の方法。
  4. 局所的強度補正を用いてフレームの現在のブロックを補正するかどうかを判断するステップは、
    全体的利得係数を用いてフレームの現在のブロックを補正した後の、フレームの現在のブロックと前のフレームの対応するブロックとの強度の差が、第2の予め定められたしきい値を超えているかどうかを判断するステップを含む、請求項3に記載の方法。
  5. 局所的強度補正を用いてフレームの現在のブロックを補正するかどうかを判断するステップは、全体的利得係数が予め定められた範囲外にあるかどうかを判断するステップを含む、請求項4に記載の方法。
  6. 前の2つのブロックが歪んでいるかどうかを判断するステップと、前の2つのブロックが歪んでいない場合、歪んだブロックの数を用いて局所的強度カウンタを更新するステップとをさらに含む、請求項1〜5のいずれかに記載の方法。
  7. 現在のフレームにおける前の2つのブロックが歪んでいる場合、前のブロックを補正するステップをさらに含む、請求項6に記載の方法。
  8. ビデオのフレーム用の強度補正を提供するための回路を有する集積回路であって、
    ビデオに関連するデータのフレームを受信するよう結合されたバッファと、
    バッファに結合されたプロセッサとを含み、プロセッサはビデオのフレームの一部を分析し、現在のフレームの補正された部分と前のフレームの対応する部分との強度の差が予め定められたしきい値よりも大きく、全体的利得係数が予め定められた範囲外にある場合、プロセッサは局所的強度補正を用いてフレームのブロックのすべてを補正し、前記集積回路はさらに、
    プロセッサに結合されたメモリを含み、メモリは、プロセッサによって生成されたフレーム用の補正された強度係数を受信する、集積回路。
  9. 現在のフレームの補正された部分と前のフレームの対応する部分とは、現在のフレームの上から5行と前のフレームの上から5行とを含む、請求項8に記載の集積回路。
  10. フレームの現在のブロックと前のフレームの対応するブロックとの強度の差が予め定められたしきい値よりも小さい場合、または全体的利得係数が予め定められた範囲内にある場合、プロセッサは、
    全体的利得係数を用いてフレームの現在のブロックを補正し、
    全体的利得係数を用いてフレームの現在のブロックを補正した後で、フレームの現在のブロックと前のフレームの対応するブロックとの強度の差を判断し、
    局所的強度補正を用いてフレームの現在のブロックを補正するかどうかを判断することにより、
    フレームの現在のブロックを補正する、請求項8または9に記載の集積回路。
  11. プロセッサは、全体的利得係数を用いてフレームの現在のブロックを補正した後の、フレームの現在のブロックと前のフレームの対応するブロックとの強度の差が、第2の予め定められたしきい値を超えているかどうかを判断することにより、局所的強度補正を用いてフレームの現在のブロックを補正するかどうかを判断する、請求項10に記載の集積回路。
  12. プロセッサは、全体的利得係数が予め定められた範囲外にあるかどうかを判断することにより、局所的強度補正を用いてフレームの現在のブロックを補正するかどうかを判断する、請求項11に記載の集積回路。
  13. プロセッサはさらに、前の2つのブロックが歪んでいるかどうかを判断し、前の2つのブロックが歪んでいない場合、歪んだブロックの数を用いて局所的強度カウンタを更新し、現在のフレームにおける前の2つのブロックが歪んでいる場合、前のブロックを補正する、請求項8〜12のいずれかに記載の集積回路。
JP2011550140A 2009-02-12 2010-01-07 ビデオ用の強度補正を提供するための回路を有する集積回路、およびビデオ用の強度補正を提供する方法 Active JP5236085B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/370,519 US8077219B2 (en) 2009-02-12 2009-02-12 Integrated circuit having a circuit for and method of providing intensity correction for a video
US12/370,519 2009-02-12
PCT/US2010/020404 WO2010093484A1 (en) 2009-02-12 2010-01-07 An integrated circuit having a circuit for and method of providing intensity correction for a video

Publications (2)

Publication Number Publication Date
JP2012517765A true JP2012517765A (ja) 2012-08-02
JP5236085B2 JP5236085B2 (ja) 2013-07-17

Family

ID=42040446

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011550140A Active JP5236085B2 (ja) 2009-02-12 2010-01-07 ビデオ用の強度補正を提供するための回路を有する集積回路、およびビデオ用の強度補正を提供する方法

Country Status (6)

Country Link
US (1) US8077219B2 (ja)
EP (1) EP2396764B1 (ja)
JP (1) JP5236085B2 (ja)
KR (1) KR101268758B1 (ja)
CN (1) CN102317970B (ja)
WO (1) WO2010093484A1 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW201038056A (en) * 2009-04-15 2010-10-16 Novatek Microelectronics Corp De-interlacing apparatus and method and moving caption compensator
US8666148B2 (en) 2010-06-03 2014-03-04 Adobe Systems Incorporated Image adjustment
KR101330396B1 (ko) * 2010-06-25 2013-11-15 엘지디스플레이 주식회사 표시장치와 그의 콘트라스트 향상 방법
JP2013003238A (ja) * 2011-06-14 2013-01-07 Sony Corp 映像信号処理回路、映像信号処理方法、表示装置、及び、電子機器
JP5931062B2 (ja) * 2011-06-21 2016-06-08 シャープ株式会社 立体画像処理装置、立体画像処理方法、及びプログラム
US8903169B1 (en) 2011-09-02 2014-12-02 Adobe Systems Incorporated Automatic adaptation to image processing pipeline
US9008415B2 (en) 2011-09-02 2015-04-14 Adobe Systems Incorporated Automatic image adjustment parameter correction
US9215355B2 (en) * 2011-09-30 2015-12-15 Apple Inc. Scene adaptive temporal filtering
US9729870B2 (en) 2012-01-31 2017-08-08 Apple Inc. Video coding efficiency with camera metadata
US9659237B2 (en) 2012-10-05 2017-05-23 Micro Usa, Inc. Imaging through aerosol obscurants
US9313398B2 (en) * 2014-03-20 2016-04-12 International Business Machines Corporation Warning system for sub-optimal sensor settings
US9509307B1 (en) 2014-09-22 2016-11-29 Xilinx, Inc. Interconnect multiplexers and methods of reducing contention currents in an interconnect multiplexer
US10339850B2 (en) * 2015-08-06 2019-07-02 Nvidia Corporation Low-latency display
US9595990B1 (en) 2016-05-18 2017-03-14 Xilinx, Inc. Circuit for and method of enabling the adaptation of an automatic gain control circuit
US10417745B2 (en) * 2016-06-28 2019-09-17 Raytheon Company Continuous motion scene based non-uniformity correction

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06113195A (ja) * 1992-09-29 1994-04-22 Canon Inc ビデオカメラ装置
JP2000134631A (ja) * 1998-10-23 2000-05-12 Canon Inc 画像符号化装置、方法、画像復号化装置、方法及びコンピュータ読み取り可能な記憶媒体
JP2007221654A (ja) * 2006-02-20 2007-08-30 Iwasaki Electric Co Ltd 撮影システム、動画像処理方法および動画像処理装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005036456A2 (en) * 2003-05-12 2005-04-21 Princeton University Method and apparatus for foreground segmentation of video sequences
US20070047834A1 (en) 2005-08-31 2007-03-01 International Business Machines Corporation Method and apparatus for visual background subtraction with one or more preprocessing modules
US7590303B2 (en) * 2005-09-29 2009-09-15 Samsung Electronics Co., Ltd. Image enhancement method using local illumination correction
US7684640B2 (en) * 2005-10-20 2010-03-23 Sharp Laboratories Of America, Inc. Methods and systems for automatic digital image enhancement with local adjustment
US7684639B2 (en) * 2005-10-20 2010-03-23 Sharp Laboratories Of America, Inc. Methods and systems for automatic digital image enhancement
JP4554504B2 (ja) * 2005-12-16 2010-09-29 富士通セミコンダクター株式会社 画像データ処理回路および画像データ処理方法
CN100450153C (zh) * 2005-12-22 2009-01-07 比亚迪股份有限公司 一种闪烁检测方法和闪烁检测设备
KR100756318B1 (ko) * 2006-01-16 2007-09-06 삼성전자주식회사 이득 조절 가능한 절단 빈도함수 평활화를 이용한 영상처리 방법 및 시스템
US20070280555A1 (en) * 2006-06-01 2007-12-06 Mei Chen Image registration based on concentric image partitions
US7602988B2 (en) * 2006-09-01 2009-10-13 Mediatek Inc. Method for adjusting saturation and contrast of an area of an image and apparatus thereof
US7856141B2 (en) * 2006-09-01 2010-12-21 Mediatek Inc. Method for adjusting saturation and contrast of an area of an image and apparatus thereof
JP4353223B2 (ja) * 2006-09-07 2009-10-28 ソニー株式会社 画像データ処理装置、画像データ処理方法および撮像システム
US8111895B2 (en) * 2006-12-06 2012-02-07 Siemens Medical Solutions Usa, Inc. Locally adaptive image enhancement for digital subtraction X-ray imaging
KR100925419B1 (ko) * 2006-12-19 2009-11-06 삼성전자주식회사 라플라시안 피라미드를 이용한 컬러 영상의 화질 개선 장치및 그 방법
TWI466093B (zh) * 2007-06-26 2014-12-21 Apple Inc 用於視訊播放的管理技術
US20100278423A1 (en) * 2009-04-30 2010-11-04 Yuji Itoh Methods and systems for contrast enhancement
GB2476258A (en) * 2009-12-16 2011-06-22 Thales Holdings Uk Plc Motion detection using histogram analysis

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06113195A (ja) * 1992-09-29 1994-04-22 Canon Inc ビデオカメラ装置
JP2000134631A (ja) * 1998-10-23 2000-05-12 Canon Inc 画像符号化装置、方法、画像復号化装置、方法及びコンピュータ読み取り可能な記憶媒体
JP2007221654A (ja) * 2006-02-20 2007-08-30 Iwasaki Electric Co Ltd 撮影システム、動画像処理方法および動画像処理装置

Also Published As

Publication number Publication date
CN102317970B (zh) 2013-11-06
JP5236085B2 (ja) 2013-07-17
CN102317970A (zh) 2012-01-11
US20100201883A1 (en) 2010-08-12
WO2010093484A1 (en) 2010-08-19
KR101268758B1 (ko) 2013-05-29
KR20110126144A (ko) 2011-11-22
EP2396764B1 (en) 2015-10-07
EP2396764A1 (en) 2011-12-21
US8077219B2 (en) 2011-12-13

Similar Documents

Publication Publication Date Title
JP5236085B2 (ja) ビデオ用の強度補正を提供するための回路を有する集積回路、およびビデオ用の強度補正を提供する方法
US20220217271A1 (en) Global Tone Mapping
US9013611B1 (en) Method and device for generating a digital image based upon a selected set of chrominance groups
CN104980652B (zh) 图像处理设备和图像处理方法
US10007967B2 (en) Temporal and spatial video noise reduction
US9288392B2 (en) Image capturing device capable of blending images and image processing method for blending images thereof
US10021313B1 (en) Image adjustment techniques for multiple-frame images
TWI722283B (zh) 多工高動態範圍影像
US9237257B1 (en) Circuits for and methods of generating a digital image
US20120081553A1 (en) Spatial filtering for image signal processing
US9998720B2 (en) Image processing method for locally adjusting image data of real-time image
US20060215908A1 (en) Image pickup apparatus and image processing method
CN110113510B (zh) 一种实时视频图像增强方法和高速相机系统
TW201742001A (zh) 影像雜訊估測方法及裝置與影像擷取裝置
US20190188837A1 (en) Image Processing Method and Apparatus
JP4386959B1 (ja) 画像処理装置
US20080063295A1 (en) Imaging Device
CN109345464B (zh) 一种在Bayer数据域实现HDR的图像处理的方法和系统
JP2007323635A (ja) ビデオ・イメージの再帰的フィルタリング
WO2017183273A1 (ja) 画像処理装置
JP4462017B2 (ja) 欠陥検出補正装置、撮像装置および欠陥検出補正方法
US20100002145A1 (en) Adaptive optimization of a video signal
CN114125408A (zh) 图像处理方法及装置、终端和可读存储介质
WO2016200480A1 (en) Color filter array scaler
Hsia et al. VLSI architecture and implementation of HDR camera signal processor

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121030

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130319

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130326

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5236085

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160405

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250