JP4904502B2 - ビデオ・フレーム測定装置及び方法 - Google Patents

ビデオ・フレーム測定装置及び方法 Download PDF

Info

Publication number
JP4904502B2
JP4904502B2 JP2007303155A JP2007303155A JP4904502B2 JP 4904502 B2 JP4904502 B2 JP 4904502B2 JP 2007303155 A JP2007303155 A JP 2007303155A JP 2007303155 A JP2007303155 A JP 2007303155A JP 4904502 B2 JP4904502 B2 JP 4904502B2
Authority
JP
Japan
Prior art keywords
video frame
image
line
module
representative
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007303155A
Other languages
English (en)
Other versions
JP2008131658A (ja
Inventor
ケビン・エム・ファーガソン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tektronix Inc
Original Assignee
Tektronix Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tektronix Inc filed Critical Tektronix Inc
Publication of JP2008131658A publication Critical patent/JP2008131658A/ja
Application granted granted Critical
Publication of JP4904502B2 publication Critical patent/JP4904502B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761Proximity, similarity or dissimilarity measures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • H04N7/0122Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal the input and the output signals having different aspect ratios

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Medical Informatics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本発明は、一般に、ビデオ技術に関し、特に、ビデオ空間のスケール、オフセット及びクロッピングについてビデオ・フレームを測定する装置及び方法に関する。
ビデオ・フォーマット及びデバイスの拡張に関連し、画像サイズの変更、レジストレーション及びクロッピング(cropping)が頻繁に生じる。再度の目的を果たすためにビデオを再フォーマットすることは、より一般的になってきている。601SDビデオ信号を1ライン当たり720サンプルとして704ATSCデジタル放送信号として送信するには、再フォーマットが必要となる。同様に、図1(従来技術)に示すような720SDビデオ信号を図2(従来技術)に示すような1920HDビデオ信号に変換することは、SD(標準解像度)及びHD(高解像度)の同時放送の結果であるが、ここでも再フォーマットが必要となる。放送オプションを変更するには再フォーマットの他に、HDビデオを移動電話又はPDA(Personal Data Assistance)用のQCIF(Quarter Common Intermediate Format)に変換するように、移動電話又はPDAで用いるビデオの変換でも、再フォーマットを必要とする。この再フォーマットでは、画像サイズの変更、レジストレーションと言われる空間的シフト、クロッピングと言われる画像境界付近における画像の削除も必要となる。かかる再フォーマットは、画像を新たなアスペクト比、例えば、16:9対4:3などに合わせる必要がある。再フォーマットは、例えば、レターボックス画像(画像の縦横比を調整せずに放送する場合の画像)の場合に、画像の側部における剪断(打ち切り)又はクロッピングや、側部又は画像の上又は下に空白の境界セグメントを追加することも必要である。この再フォーマットには、製造業者、放送局、編集者、その他のビデオ専門家及びサービス・プロバイダにとっての問題がある。処理装置を不正確なモードに設定するかもしれず、機能不全になるかもしれず、また、上述の例のように720ピクセルから704ピクセルのように標準が変化するかもしれない。
ビデオ出力の空間歪、スケール、オフセット又はシフト、及びクロッピングの測定方法を実行できる測定機器は、有用である。さらに、完全基準測定用の試験シーケンス及び基準シーケンスの対の間の空間的アライメントから画像品質測定をできる。
従来から上述のことが、少なくとも部分的には、元のビデオ画像に重ねた独自のストライプを用いて、行われてきた。しかし、このストライプは、余分なものであり、試験及び基準の両方のビデオ・シーケンスがストライプを持つ必要がある。このためには、ビデオを圧縮する前、又は伝送又は蓄積に必要な他の処理の前に、ストライプを追加する必要がある。これは、いくつかのアプリケーションにおいては、測定が必要になる度にストライプを追加することが実際的ではないし望ましくないので、自動画質測定アプリケーションに対して制限を加えている。
民生電子ビデオ出力の検査のような自動ビデオ測定(VM:video measurement)アプリケーションのために空間歪測定の自動方法は、有用である。自動画質(PQ:picture quality)測定に関連して用いる自動空間アライメントの方法も有用である。デジタル圧縮アーティファクト、ランダム・ノイズ、量子化エラー、非直線歪、線形歪、干渉が存在しても、この方法が影響を受けにくい場合、有用である。ビデオ信号に追加されたストライプ、アスペクト比、DUT(被測定装置)ピクセル・クロック、適度な水平又は垂直スケール、オフセット又はクロッピングの他の指針を含むビデオ内容の従来の知識がなくても、操作できる方法は有用である。この方法で精度と計算の両方の効率がよいと、この方法の実際的な有用性が改善される。計算効率は、所定の精度を得るのに必要な処理量に関連する。精度の所望レベルに達するのに必要な処理が少ないほど、計算効率が良くなる。
特公平7−284072号公報 米国特許第6751360号明細書
そこで、0.1未満から10.0よりも大きい値までの広い範囲のスケール比にわって、また、0.65未満から1.35よりも大きい値までの大幅なクロッピングができると共に、従来技術の他の欠点を解決して、空間歪測定を正確且つ効率的な計算で行える方法が望まれている。可能な空間歪測定は、空間スケール、シフトと共に、水平及び垂直の両方の次元でのクロッピングを含んでいる。また、この方法が少なくとも部分的で、全体的な自動化でなければ、有用である。
よって、本発明は、ビデオ・フレームを測定する測定装置であって;試験ビデオ・フレーム及び基準ビデオ・フレームを受け、フレームのそのままのアライメントを実行するアライメント・モジュールと;そのままのアライメントの実行が続く試験ビデオ・フレーム及び基準ビデオ・フレームを受け、代表試験ライン及び代表基準ラインを提供する代表ライン・モジュールと;これら代表試験ライン及び代表基準ラインに基づいてローカル・ピアソン相互相関係数(LPCCC)画像を生成するローカル・ピアソン相互相関係数モジュールと;ローカル・ピアソン相互相関係数画像にハフ変換を実行する変換モジュールと;ローカル・ピアソン相互相関係数画像のハフ変換から最高輝度のピクセルを識別して、リファインしたアライメント測定結果を求めるピクセル輝度モジュールと;そのままのアライメント測定結果及びリファインしたアライメント測定結果を集め、更なる分析のためにこれら集めた測定結果を蓄積する集合モジュールとを具えている。
また、本発明は、ビデオ・フレームを測定する方法であって;試験ビデオ・フレーム及び基準ビデオ・フレームのそのままのアライメントを実行し;そのままのアライメントの実行が続く試験ビデオ・フレーム及び上記基準ビデオ・フレームの各々に対して代表試験ライン及び代表基準ラインを提供し;これら代表試験ライン及び代表基準ラインに基づいてローカル・ピアソン相互相関係数(LPCCC)画像を生成し;ローカル・ピアソン相互相関係数画像にハフ変換を実行し;ローカル・ピアソン相互相関係数画像のハフ変換から最高輝度のピクセルを識別して、リファインしたアライメント測定結果を求め;そのままのアライメント測定結果及びリファインしたアライメント測定結果を集め、更なる分析のためにこれら集めた測定結果を蓄積することを特徴とする。
本発明は、空間歪を測定する方法及び装置を提供する。境界を測定し除去し、アクティブな試験画像、アクティブな基準画像又はこれらの両方を再スケール調整(再度の大きさの調整)し、これら画像が同じサイズになる。一実施例においては、2つの画像の大きい方のスケールを小さくする。別の実施例においては、小さい方の画像のスケールを大きくする。
基準代表ライン(基準RL)及び試験代表ライン(TestRL)を提供する各画像から、代表ラインを求めるか、又は選択する。方法の実施例において、最大分散ライン方法(maximum variance line method)を用いて、TestRLを選択する。別の実施例では、ライン平均化方法がエッジを有するライン結果を求めるという条件で、このライン平均化方法を用いてTestRLを求める。
異なる水平シフトにて基準RL及びTestRLの両方から、局部的ピアソン相互相関係数(LPCCC:Local Pearson' Cross-Correlation Coefficient)画像を作成する。
LPCCC画像を横切る最も高い平均輝度ラインを見つけ、最高輝度のハフ変換画像ピクセルの座標を見つける。
ハフ変換シータ及びRを空間スケール及びオフセットに変換する。
垂直次元用にリファインした(洗練した)スケール及びオフセット値を計算する。
元のまま及びリファインしたオフセット値及びスケール値を組合せて、総合的な水平及び垂直スケール及びオフセット値を発生する。
これら空間測定を装置製造業者、放送局、編集者、その他のビデオ専門及びサービス・プロバイダに提供できるし、追加の画質測定もできる。これにより、エンド・ユーザに提供するビデオの品質を測定し、モニタし、場合によっては改善できる。
種々のアプローチを用いて、空間歪の測定をできる。いくつかの方法は、1.0ではないスケール比に対して強固ではない。これらの方法は、本願出願人のテクトロニクス社製PQA200型に用いている独自のストライプの如きビデオ内容の知識をしばしば必要とする。別のいくつかの方法は、従来の知識を必要としない。なお、これら従来知識は、シフトを測定するためにFFT係数から総計位相情報(ANSIT.1.801.03−1996.5.4「アクティブ・ビデオ・シフト」)を用いたり、空間の代わりに時間に1D(1次元)を適用する(Jiujuai Luの米国特許第6751360号「高速ビデオ時間ミスアライメントの推定」)が、正規化差画像の分散(ANSIT1.801.03−2003_6.1「空間レジストレーション」)を利用したりする。FFT方法を用いて、2D(2次元)相互相関の計算効率を改善できる(米国特許第6751360号)が、空間次元のスケール問題が周波数次元のスケール問題となるが、これが1.0のスケール比に制限する。
他の方法は、1.0以外のスケール比に対して強固であるが、実際にはスケールを測定しないで、これらを認識アルゴリズムの一部として用いる。
別の方法では、1.0以外のスケール 比に対して強固であり、スケール測定を行うが、そのようにするには非常に粗雑で不正確な方法を用いているか、又は、正確に測定するが、コストが複雑で、高価で、計算方法が遅く、計算が効率的でない。これらの別の方法は、例えば、個別のブロックの間での2次元相互相関を含んでいるか、又は、試験画像対基準画像から得た小さな画像セグメントを含んでいる。この方法は、一般に、相関が貧弱になる傾向があるので、1.0から離れたスケールに対して全く正確でないか、又は、水平及び垂直シフト及びスケールの総ての組合せについて総ての領域を検索するので、複雑さや計算コストが高くなる。ここで用いる計算コストとは、長い処理時間や非常に大きな処理能力を言う。なお、これは、経済的には高価になるので、多くのアプリケーションに適さない。
本発明の実施例を図3及び図4に示す。図3及び図4に示す種々のブロック又はモジュールは、汎用プロセッサ上で実行されるソフトウェアにより実現できる。その代わりに、これらブロック又はモジュールは、専用回路及びソフトウェアの組合せや、完全な組み込みコード回路として実現してもよい。これら回路は、FPGA、ASIC、DSP、パーソナル・コンピュータに用いる如き汎用プロセッサ、又はこれら及び他の要素との組合せでもよい。
図3に示すように、試験ビデオ・フレーム10及び基準ビデオ・フレーム12をそのままの(crude)アライメント測定モジュール14に入力する。このモジュール14は、ブラインドのコーナー対コーナーのアライメント(位置合わせ)を実行する。境界除去モジュール16は、試験ビデオ・フレーム10及び基準ビデオ・フレーム12を受け、これらフレームの一方又は両方からブランキングを測定し、除去する。試験(画像)ビデオ・フレーム及び基準(画像)ビデオ・フレームの縁の位置を求める。本発明の実施例において、この動作を行うには、画像ビデオ・フレームのアクティブ部分ではなく、画像ビデオ・フレームの右、左、上及び下でどの位のピクセルがブランキングされているか、又は境界のピクセルであるかを判断する。アクティブ部分は、典型的には、ビデオ・シーケンスにて時間経過に伴って変化する画像又はフレームの部分であり、典型的には、観察者が関心のあるビデオ・シーケンスの部分に対応する。
本発明の実施例において、再スケール・モジュール18は、試験ビデオ・フレーム及び基準ビデオ・フレームを受けて、これらを同じサイズに再スケール調整(再度の大きさの調整)する。第1実施例においては、オリジナルの試験ビデオ・フレーム及びオリジナルの基準ビデオ・フレームに再スケールを適用する。別の実施例においては、再スケール・モジュール18は、既にクロッピングされ、ブランキングが除去された試験ビデオ・フレーム及び基準ビデオ・フレームを受ける。図示の如く、再スケール・モジュール18は、その機能として、オリジナルの又はクロッピングされた入力のいずれかを受ける。再スケール・モジュールの実施例において、コーナー対コーナーのマッピング(角と角との位置合わせ)により、画像の再スケール調整を行う。一実施例において、試験ビデオ・フレームを再スケール調整して、基準ビデオ・フレームにマッチングさせる。他の実施例においては、基準ビデオ・フレームを再スケール調整して、更に別の実施例では、再スケール・モジュールが試験ビデオ・フレームか基準ビデオ・フレームかにかかわらず、大きい方のビデオ・フレームが小さい方のビデオ・フレームにマッチするように縮小スケール調整する。この代わりに、小さい方のビデオ・フレームを大きい方のビデオ・フレームにマッチするように拡大スケール調整することもできる。いくつかの場合において、両方の画像は、既に同じスケールである。この場合、コーナー対コーナーのマッピングでは、画像の差を識別できない。
再スケール・モジュール18は、再スケール調整した試験及び基準ビデオ・フレームを、リファインしたアライメントの測定モジュール20に供給する。このモジュール20は、1次元リファイン測定モジュール22Aを有し、このモジュール22Aは、スケールにマッチしオフセットされた画像を集合モジュール24に提供する。別の実施例では、第2の1次元リファイン測定モジュール22Bを設けて、回転モジュール26が供給する回転済み画像を受ける。集合モジュール24は、1つ以上の測定、即ち、クロッピング、そのままのスケール、そのままのオフセット、リファインされたスケール、リファインされたオフセットなどを集合させる。図示のように、この集合モジュール24は、1次元リファイン・アライメント測定モジュール22の他に、境界モジュール16及び再スケール・モジュール18からも入力を受ける。画像を90度回転させることにより、水平及び垂直の両方向に沿って2次元分析を行える。集合モジュール24は、その出力として、空間歪測定結果30を発生する。
図4は、1次元リファイン・アライメント測定モジュール22の詳細を示す。このモジュール22は、試験及び基準ビデオ・シーケンスに対応する再スケール調整されたフレームを受ける。代表ライン・モジュール44は、基準ビデオ・フレーム及び試験ビデオ・フレームの両方の代表ライン(RL)を発生する。代表ライン(RL)は、モジュール22A及びモジュール22Bのいずれに接続されるかに応じて、水平代表ライン又は垂直代表ラインである。代表ライン(RL)が与えられると、LPCCCモジュール46は、ローカル・ピアソン相互相関係数(LPCCC)画像を生成する。ハフ変換(Hough Transform)モジュール48は、LPCCC画像に対してハフ変換を行い、その出力をピクセル輝度モジュール50に供給する。このモジュール50は、最大輝度のピクセルの座標を求める。モジュール22は、図3の集合モジュール24にリファイン・アライメント測定結果を供給する。
測定を実行する方法の実施例は、次のステップから構成される。
試験ビデオ・フレーム、基準ビデオ・フレーム又はこれら両方から境界を取り去り、測定する。試験画像ビデオ・フレーム及び基準画像ビデオ・フレームの各々のエッジの位置を求める。この方法の実施例において、これを行うには、画像ビデオ・フレームの右、左、上及び下のどの位の数のピクセルが、画像のアクティブ部分ではなくブランキング又は境界ピクセルかを判断する。アクティブ部分は、ビデオ・シーケンスの時間で典型的に変化する画像の一部であり、典型的には観察者が関心のあるビデオ・シーケンスの一部にも対応する。試験画像及び基準画像の対応識別アクティブ部分をその後の測定処理に用いる。
試験画像及び基準画像のアクティブ部分を水平及び垂直次元の両方でマッチさせる。アクティブ部分は、フレームのエッジに沿った境界又はブランキング内の領域である。本願において、アクティブ部分は、アクティブ画像ともいう。これは、後での測定処理に用いるものである。第1実施例において、2つのアクティブ画像部分の大きい方をこれら2つの小さい方に合うように再スケール調整する(再度大きさを調整する)ことにより達成する。これは、同じ分解能の2つの画像を発生する。例えば、幅が704ピクセルで高さが480ピクセルのアクティブ試験画像部分と、1920×1080ピクセルのアクティブ基準画像部分を入力ビデオ・フレームとして与えると、その結果のアクティブ試験画像部分とアクティブ基準画像部分が共に704×480ピクセルとなる。これは、大きい方のアクティブ基準画像部分がサンプル数を減らすように再サンプリングされて、小さい方のアクティブ試験画像部分にマッチするためである。この方法は、2つの画像を合わせる迅速な方法である。事実、2つのアクティブ画像部分をコーナーからコーナーに互いにマッピングする。この方法により、アスペクト比にかかわらず、正確な測定ができる。アスペクト比の変化は、測定結果から推断できる。例えば、水平及び垂直のスケールが共に1で、試験側のクロッピングが総合で75%ならば、これは、試験側のアスペクト比が変化したことを意味する。アスペクト比の違いは、次のステップのリファインしたアライメントで考慮する。しかし、この第1ステップであるありのままのアライメントが役立つ。それは、低い計算コスト方法により、計算的により高価なリファイン・アライメントを必要とするよりも、大幅に低減できるためである。第2実施例において、小さな画像を大きな画像に合うように再スケール調整する。この第2の方法は、第1の方法よりも早くはないが、精度を改善できる。
試験及び基準画像の各々から代表的なライン(RL)を求めて、TestRL及びReferenceRLとする。第1実施例において、最大分散ライン方法(maximum variance line method)を用いて各代表ラインを得る。アクティブ試験画像からTestRLに対応する最高分散試験ライン(HVTL)と、アクティブ基準画像内に対応基準ライン(ReferenceRL)を見つける。アクティブ試験画像から垂直画像セグメントを選択する。HVTLのよりも上及び下の同じ数のラインを含むことにより、試験画像セグメントを定義できる。この選択された試験画像セグメントは、最大の分散の基準ラインにて中心となる検索窓及び2次元相関を用いて基準画像にレジストレーションされる。なお、これは、クロッピングの許容及び検索窓の範囲内である。図6に示す例においては、上の画像がアクティブ試験画像であり、下の画像がアクティブ基準画像である。この方法のステップの実施例において、アクティブ画像セグメントのアクティブ基準画像への空間的レジストレーションは、ANSI_T1.801.03−1996,5.4(アクティブ・ビデオ・シフト)の測定で用いられている。ANSI_T1.801.02−2006,6.1(空間レジストレーション)で用いられる空間レジストレーション方法のように別の方法を用いてもよい。いずれの方法も、どの基準ラインが最も大きな分散の試験ラインに対応するかも見つけるために、垂直セグメント用の空間シフトに対する最良の適合に対応する最適な測定基準を検索する。対応する基準垂直セグメントの中央ラインを基準RL(ReferenceRL)として選択し、HVTLをその後の処理用の試験RL(TestRL)として用いる。
第2実施例において、ライン平均化方法を用いて、代表ライン(RL)候補を求める。この方法は、ピクセル・ワイズ・ライン(pixel-wise line)平均化により平均ラインを生成する。
ReferenceRL(ピクセル)= [ライン上の総和] (基準(ピクセル、ライン))
TestRL (ピクセル)= [ライン上の総和](試験(ピクセル、ライン))
基準代表ライン候補(ReferenceRL)及び試験代表ライン公報(TestRL)の両方に、直流又は平坦でない有効エッジがある場合、ReferenceRL及びTestRLをその後の処理用の基準ラインとして用いる。基準ライン候補の一方又は両方にエッジがないと、上述の最大分散ライン方法を用いて基準ラインを求める。
アクティブ試験画像及びアクセス基準画像の両方に対して代表ラインが求まると、ローカル・ピアソン相互相関係数(LPCCC)画像を異なる水平シフトで生成する。この方法の実施例において、入力として、アクティブ基準画像の代表ラインと、アクティブ試験画像の代表ラインの水平にシフトしたバージョンを用いて、LPCCC画像の各ラインを発生する。ローカルな相互相関は、米国特許第6975776号「ヒューマン・ビジョン知覚及び知覚差の予測」に記載のローカル2次元相関で用いる一般的方法の1次元バージョンを用いる。この方法は、個別の全体測定の内容を連続測定に外挿するまでのローカル基本量での相互相関を計算する。この個別の全体測定は、例えば、平均値、分散、共分散を含んでいる。連続測定は、例えば、IIR(無限インパルス)LPF(ロウパス・フィルタ)出力として得たローカル平均、複数ピクセル値をIIR_LPFで処理した差として得たローカル分散LocalVariance、ピクセル値のローカル平均を含んでいる。IIR_LPFで処理した複数のピクセル値の差及び複数ピクセル値のローカル平均は、連続測定の1例である。IIR_LPFは、図7に示す循環フィルタとして実現してもよく、入力ラインに信号を順方向に供給し、中間出力を順方向から後ろに戻す。事実、離散統計計算に用いた総ての合計をIIR_LPF動作と置換できる。試験及び基準の分散の積の平方根で除算した共分散として、ピアソン相関係数を計算するが、試験及び基準ローカル分散の積の平方根で除算したローカル共分散として、アクティブ基準画像の対応代表ライン(ReferenceRL)の各ピクセルに対して、LPCCCを計算する。各基準代表ラインReferenceRLに対して、ローカルReferenceRLピクセル平均からのReferenceRLピクセル偏差と、ローカル試験基準ライン(TestRL)ピクセル平均からの対応試験基準ライン(TestRL)ピクセル偏差との積に適用したIIR_LPFとして、ローカル共分散LocalConvarianceを計算する。ピクセル平均は、IIR_LPF各ラインを当てた結果である。よって、LPCCC[行][列]画像は次のようになる。
LPCCC[シフト][n] = LocalCovariance(TestRL[シフト], ReferenceRL)[n] /
√(LocalVariance(TestRL[シフト])[n]×LocalVariance(ReferenceRL)[n])
なお、√は、その後の括弧内に対する平方根を意味する。また、IIR_LPF(X)[n] = 入力画像ラインXへの両方向で連続的に適用された図8のIIR_LPFのn番目の出力である。よって、IIR_LPF(X)[n]は、n番目のピクセルでのXのローカル平均である。
LocalVariance(X)[n]=(X[n]-IIR_LPF(X)[n])^2
LocalCovariance(X,Y)[n]=IIR_LPF((X[n]-IIR_LPF(X)[n])×
(Y[n]-IIR_LPF(Y)[n]))[n]
なお、^2は、2乗を意味する。このフィルタは、前方向パスと、逆方向パスで等しくX[0]で初期化される。
TestRLシフト範囲は、TestRLに対する、アルゴリズムが検出できるReferenceRL画像スケール範囲の比に対応する。スケール測定範囲に対応する高いシフト範囲は、対応する高い計算コストがかかる。
LPCCC画像にわたる最高の平均ライン輝度を見つける。このラインの傾斜は、TestRLとReferenceRLとの画像スケールの比に対応し、yインタセプト(断片)は、シフト=空間オフセットに対応する。LPCCC画像の例を図8〜13に示す。例えば、「魚眼」レンズ形式の歪である非線形伸縮の如き非線形歪の結果、LPCCC画像内の直線から対応する偏差が生じる。よって、LPCCCを波形モニタ表示の形式として用いて、試験画像から基準画像への空間的マッピングのスケール、オフセット及び線形性をチェックする。
図8は、ピアソン相関係数+128(輝度)対ピクセル(水平)対ピクセル(垂直)を示す。すなわち、各ラインは、2つのローカル標準偏差の積で除算したローカル基準及び試験ACのLPFのドットの生成物である。この例における基準+試験の画像では、水平スケール割り当て=1.0である。LPFのパラメータは、al=0.65、水平シフト検索窓+/−150ピクセルである。
図9は、図8に対応するが、水平スケールが1.0よりもわずかに大きい。
図10は、図8に対応するが、水平スケールが1.1である。
図11は、図8に対応するが、水平スケールが1.2である。
図12は、図8に対応するが、水平スケールが1.25である。
図13は、図8に対応するが、水平スケールが1.35である。
方法の実施例において、線形グレー・スケール・ハフ変換を用いて、最高平均輝度のラインを識別する。
LPCCC画像内の各ピクセル/ポイントは、パラメトリック・ライン方程式によりハフ変換ラインにマッピングする。
入力画像=LPCCC[行=y][列=x]
であり、
x=オリジナル画像ピクセル・インデックス
y=相関用水平シフト−負の最大シフト
各LPCCC(x,y)に対して、各シータに対してハフ変換[シータ、R]にマッピングする(シータ増分インデックスThetaAngleBinを用いてパラメータ化する)。
Theta[ThetaAngleIndex]=PI×ThetaAngleIndex / ThetaIndexMax
なお、PIは、定数pi(π)である。
R=x×cos(Theta) + y×sin(Theta)
HoughTransformImage[ThetaAngleIndex][R]+=LPCCC
魚眼歪により生じる非線形スケーリングにより、LPCCCの最も明るいライン内の対応歪が生じる。例えば、ノイズが存在する非線形曲線パラメータを求めるための高次のハフ変換又は既存の方法を用いて、この非線形性も測定できる。
最高輝度のハフ変換画像ピクセル(maxHough[ThetaAngleBin][R]輝度)の座標を求める。これは、ReferenceRLに関連するTestRLのスケール及びオフセットに対応して、LPCCC画像を通じて最良にフィットするラインを定義する。図14〜17は、ハフ変換画像の例を示す。
図14は、スケール0.7であることを除き、図8に対応するピアソン相関係数+128(輝度)対ピクセル(水平)対ピクセル(垂直)のハフ変換を示す。ハフ変換の例は、形式R=x×cos(Theta)+7×sin(Theta)対Thetaを有する。水平次元は720ピクセルであり、Theta=-PIから0であり、垂直次元は176ピクセルであり、R=0から352.5である。明るいドットはTheta=-1.864139に配置され、水平スケールが0.699034である。これは、0.994ピクセルでエラー/704に対応して用いた実際の0.7水平スケールに非常に近い。
図15は、スケール1.005であることを除き、図8に対応するピアソン相関係数+128(輝度)対ピクセル(水平)対ピクセル(垂直)のハフ変換を示す。ハフ変換の例は、形式R=x×cos(Theta)+7×sin(Theta)対Thetaを有する。水平次元は720ピクセルであり、Theta=-PIから0であり、垂直次元は176ピクセルであり、R=0から352.5である。明るいドットはTheta=-1.566543に配置され、水平スケールが1.004363である。これは、0.456ピクセルでエラー/704に対応して用いた実際の1.005水平スケールに非常に近い。
図16は、スケール1.35であることを除き、図8に対応するピアソン相関係数+128(輝度)対ピクセル(水平)対ピクセル(垂直)のハフ変換を示す。ハフ変換の例は、形式R=x×cos(Theta)+7×sin(Theta)対Thetaを有する。水平次元は720ピクセルであり、Theta=-PIから0であり、垂直次元は176ピクセルであり、R=0から352.5である。明るいドットはTheta=-1.234820に配置され、水平スケールが1.349216である。これは、0.418ピクセルでエラー/704に対応して用いた実際の1.35水平スケールに非常に近い。
図17は、スケール1.4であることを除き、図8に対応するピアソン相関係数+128(輝度)対ピクセル(水平)対ピクセル(垂直)のハフ変換を示す。ハフ変換の例は、形式R=x×cos(Theta)+7×sin(Theta)対Thetaを有する。水平次元は720ピクセルであり、Theta=-PIから0であり、垂直次元は176ピクセルであり、R=0から352.5である。明るいドットはTheta=-1.191187に配置され、水平スケールが1.39896である。これは、0.535ピクセルでエラー/704に対応して用いた実際の1.4水平スケールに非常に近い。
ハフ変換シータ(Theta)及びRを空間スケール及びオフセットに変換する。この方法の実施例において、次の式を用いて変換を行う。
refinedScale=1+tan(ThetaMaxHough+(PI/2))
nominalVerticalDatum=LPCCC_Height/2
yIntercept=RMaxHough/sin(ThetaMaxHough)
refinedOffset=nominalVerticalDatum-yIntercept
垂直次元用のリファインしたスケール及びオフセットを計算する。一実施例において、これを行うには、上述と同じ方法を再度用い、試験及び基準画像の各々から代表ライン(RL)を求めることから開始し、アクティブ試験画像及びアクセス基準画像の90度回転させたバージョンを用いる。
そのままの及びリファインしたオフセット及びスケール値を組合せて、総合水平及び垂直スケール及びオフセット値を得る。同様にブランキング及び境界測定をリファインした測定と組合せて用いて、当業者に理解できるように、対応したクロッピング測定を行う。
標準分解能(SD)フレームを示す図である。 図1のSDフレームに対応する高分解能(HD)フレームを示す図である。 スケール、オフセット及びクロッピングのパラメータを含むビデオ(画像)空間歪を測定するブロック図である。 1次元のリファインしたアライメントを測定するブロック図である。 図1のSDフレーム及び図2のHDフレームの間のそのままのアライメントを説明する図である。 イメージ・セグメントのレジストレーションを説明する図である。 ローカル・ピアソン相互相関(LPCCC)画像を示す図である。 「ローカル」統計計算に用いる2重パスIIR_LPFの応答及び単一パス式を示す図である。 水平スケールが1.0よりもわずかに大きく、図7に対応するLPCCC画像を示す図である。 水平スケールが1.1であり、図7に対応するLPCCC画像を示す図である。 水平スケールが1.2であり、図7に対応するLPCCC画像を示す図である。 水平スケールが1.25であり、図7に対応するLPCCC画像を示す図である。 水平スケールが1.35であり、図7に対応するLPCCC画像を示す図である。 スケールが0.7であり、図7の画像のハフ変換を示す図である。 スケールが1.005であり、図7の画像のハフ変換を示す図である。 スケールが1.35であり、図13の画像のハフ変換を示す図である。 スケールが1.4であり、図7の画像のハフ変換を示す図である。
符号の説明
10 試験ビデオ・フレーム
12 基準ビデオ・フレーム
14 アライメント測定モジュール
16 境界除去モジュール
18 再スケール・モジュール
20 測定モジュール
22 1次元リファイン測定モジュール
24 集合モジュール
26 回転モジュール
30 空間歪測定結果
44 代表ライン・モジュール
46 ローカル・ピアソン相互相関係数モジュール
48 ハフ変換モジュール
50 ピクセル輝度モジュール

Claims (5)

  1. ビデオ・フレームを測定する測定装置であって、
    試験ビデオ・フレーム及び基準ビデオ・フレームを受け、上記フレームのそのままのアライメントを実行するアライメント・モジュールと、
    そのままのアライメントの実行が続く上記試験ビデオ・フレーム及び上記基準ビデオ・フレームを受け、代表試験ライン及び代表基準ラインを提供する代表ライン・モジュールと、
    上記代表試験ライン及び上記代表基準ラインに基づいてローカル・ピアソン相互相関係数(LPCCC)画像を生成するローカル・ピアソン相互相関係数モジュールと、
    上記ローカル・ピアソン相互相関係数画像にハフ変換を実行する変換モジュールと、
    上記ローカル・ピアソン相互相関係数画像のハフ変換から最高輝度のピクセルを識別して、リファインしたアライメント測定結果を求めるピクセル輝度モジュールと、
    そのままのアライメント測定結果及びリファインしたアライメント測定結果を集め、更なる分析のためにこれら集めた測定結果を蓄積する集合モジュールと
    を具えたビデオ・フレーム測定装置。
  2. 上記アライメント・モジュールは、境界除去モジュールを具えることを特徴とする請求項1のビデオ・フレーム測定装置。
  3. 上記アライメント・モジュールは、上記試験ビデオ・フレームのスケールを上記基準ビデオ・フレームのスケールとマッチさせる再スケール・モジュールを具えることを特徴とする請求項1のビデオ・フレーム測定装置。
  4. 上記代表ライン・モジュールは、最大分散ラインを識別することにより代表ラインを提供することを特徴とする請求項1のビデオ・フレーム測定装置。
  5. ビデオ・フレームを測定する方法であって、
    試験ビデオ・フレーム及び基準ビデオ・フレームのそのままのアライメントを実行し、
    そのままのアライメントの実行が続く上記試験ビデオ・フレーム及び上記基準ビデオ・フレームの各々に対して代表試験ライン及び代表基準ラインを提供し、
    上記代表試験ライン及び上記代表基準ラインに基づいてローカル・ピアソン相互相関係数(LPCCC)画像を生成し、
    上記ローカル・ピアソン相互相関係数画像にハフ変換を実行し、
    上記ローカル・ピアソン相互相関係数画像のハフ変換から最高輝度のピクセルを識別して、リファインしたアライメント測定結果を求め、
    そのままのアライメント測定結果及びリファインしたアライメント測定結果を集め、更なる分析のためにこれら集めた測定結果を蓄積する
    ことを特徴とするビデオ・フレーム測定方法。
JP2007303155A 2006-11-22 2007-11-22 ビデオ・フレーム測定装置及び方法 Expired - Fee Related JP4904502B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US86708706P 2006-11-22 2006-11-22
US60/867,087 2006-11-22
US11/944,050 US7920758B2 (en) 2006-11-22 2007-11-21 Measurement apparatus and method of measurement of video spatial scale, offset and cropping
US11/944,050 2007-11-21

Publications (2)

Publication Number Publication Date
JP2008131658A JP2008131658A (ja) 2008-06-05
JP4904502B2 true JP4904502B2 (ja) 2012-03-28

Family

ID=39542911

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007303155A Expired - Fee Related JP4904502B2 (ja) 2006-11-22 2007-11-22 ビデオ・フレーム測定装置及び方法

Country Status (2)

Country Link
US (1) US7920758B2 (ja)
JP (1) JP4904502B2 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7978933B2 (en) * 2007-04-16 2011-07-12 Tektronix, Inc. Systems and methods for robust video temporal registration
JP5503159B2 (ja) * 2008-02-15 2014-05-28 株式会社ブリヂストン ゴム組成物及びそれを用いたタイヤ
CN101715145B (zh) * 2008-10-06 2012-08-15 辉达公司 利用级联存储器评估处理能力的设备和方法
US8437577B2 (en) * 2009-03-05 2013-05-07 Tektronix, Inc. Methods and systems for image registration
US8185334B2 (en) * 2009-03-05 2012-05-22 Tektronix, Inc. Methods and systems for filtering a digital signal
US8184163B2 (en) * 2009-03-05 2012-05-22 Tektronix, Inc. Methods and systems for detecting and locating skipped frames in a video sequence
US9256974B1 (en) * 2010-05-04 2016-02-09 Stephen P Hines 3-D motion-parallax portable display software application
US9336596B2 (en) 2010-12-28 2016-05-10 Tektronix, Inc. System and methods to efficiently measure stereoscopic disparity and to generate related mismatch images
US8963998B2 (en) 2011-04-15 2015-02-24 Tektronix, Inc. Full reference system for predicting subjective quality of three-dimensional video
US9131097B2 (en) 2011-09-16 2015-09-08 Dolby Laboratories Licensing Corporation Method and system for black bar identification
US10185878B2 (en) * 2017-02-28 2019-01-22 Microsoft Technology Licensing, Llc System and method for person counting in image data
CN110211035B (zh) * 2019-04-18 2023-03-24 天津中科智能识别产业技术研究院有限公司 融合互信息的深度神经网络的图像超分辨率方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4218982B2 (ja) * 1996-03-29 2009-02-04 ブリティッシュ・テレコミュニケーションズ・パブリック・リミテッド・カンパニー 音声処理
JP4669653B2 (ja) * 2003-04-22 2011-04-13 キヤノン株式会社 放射線撮像装置、放射線撮像システム及びコンピュータプログラム
GB0314161D0 (en) * 2003-06-18 2003-07-23 British Telecomm Edge analysis in video quality assessment
JP2005287773A (ja) * 2004-03-31 2005-10-20 Canon Inc 画像撮影装置及び画像撮影システム
JP4931101B2 (ja) * 2004-08-09 2012-05-16 カシオ計算機株式会社 画像撮像装置
CN101036399B (zh) * 2004-10-18 2010-05-05 日本电信电话株式会社 视频质量客观评价设备及评价方法
US7214947B2 (en) * 2005-03-25 2007-05-08 General Electric Company Detector assembly and method of manufacture

Also Published As

Publication number Publication date
US20080152257A1 (en) 2008-06-26
US7920758B2 (en) 2011-04-05
JP2008131658A (ja) 2008-06-05

Similar Documents

Publication Publication Date Title
JP4904502B2 (ja) ビデオ・フレーム測定装置及び方法
EP2334058B1 (en) Image zooming method and apparatus
JP5545565B2 (ja) 試験画像及び基準画像の位置合わせ方法
US8175417B2 (en) Apparatus, method, and computer-readable recording medium for pixel interpolation
KR100939736B1 (ko) 계수 데이터 생성장치 및 생성방법, 그것을 사용한 정보신호 처리장치 및 처리방법, 그것에 사용하는 종계수 데이터 생성장치 및 생성방법, 및 정보제공매체
US20100002948A1 (en) Image enhancement
US7936942B2 (en) Image processing apparatus, image processing method, recording medium, and program
US8823873B2 (en) Method and device for calculating blur in video images
US8325196B2 (en) Up-scaling
US20090226097A1 (en) Image processing apparatus
EP2466901A2 (en) Depth data upsampling
US20130050272A1 (en) Two-dimensional super resolution scaling
US20060274094A1 (en) Composite method and apparatus for adjusting image resolution
CN111079669A (zh) 一种图像处理方法、装置及存储介质
US8417057B2 (en) Method of compensating for distortion in text recognition
CN109325909B (zh) 一种图像放大方法和图像放大装置
CN102149000B (zh) 一种色版颜色提取和校正方法及系统
US10037594B2 (en) Resolution estimating device
US9514515B2 (en) Image processing device, image processing method, image processing program, and image display device
WO2002056252A2 (en) Apparatus and method for boundary detection in vector sequences and edge detection in color image signals
US8264601B2 (en) Video picture format conversion method and corresponding device
JP2003271970A (ja) テロップ領域抽出回路、テロップ領域抽出方法、その方法を実行するためのプログラムおよびそのプログラムを記録したコンピュータ読み取り可能な媒体、並びに画像信号処理回路
CN103034976B (zh) 影像内插的处理方法
CN115100506A (zh) 双录场景下矫正屏幕的图像方法、服务器及系统

Legal Events

Date Code Title Description
A625 Written request for application examination (by other person)

Free format text: JAPANESE INTERMEDIATE CODE: A625

Effective date: 20090717

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20110906

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111011

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111018

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111114

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111213

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111215

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150120

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4904502

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees