JP2019036952A - シフトされた重ね合わせを使用したリアルタイム空間ベースの解像度向上 - Google Patents

シフトされた重ね合わせを使用したリアルタイム空間ベースの解像度向上 Download PDF

Info

Publication number
JP2019036952A
JP2019036952A JP2018144344A JP2018144344A JP2019036952A JP 2019036952 A JP2019036952 A JP 2019036952A JP 2018144344 A JP2018144344 A JP 2018144344A JP 2018144344 A JP2018144344 A JP 2018144344A JP 2019036952 A JP2019036952 A JP 2019036952A
Authority
JP
Japan
Prior art keywords
projectors
spatial
deconvolution
low resolution
resolution signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018144344A
Other languages
English (en)
Other versions
JP7278726B2 (ja
Inventor
ボージエ マー
Bojie Ma
ボージエ マー
アーメッド ガウィッシュ
Gawish Ahmed
アーメッド ガウィッシュ
アレクサンダー ウォン
Wong Alexander
アレクサンダー ウォン
ポール フィーグス
Fieguth Paul
ポール フィーグス
マーク ラム
Lamm Mark
マーク ラム
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Christie Digital Systems USA Inc
Original Assignee
Christie Digital Systems USA Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Christie Digital Systems USA Inc filed Critical Christie Digital Systems USA Inc
Publication of JP2019036952A publication Critical patent/JP2019036952A/ja
Application granted granted Critical
Publication of JP7278726B2 publication Critical patent/JP7278726B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3188Scale or resolution adjustment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof
    • H04N9/3147Multi-projection systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3182Colour adjustment, e.g. white balance, shading or gamut
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0102Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving the resampling of the incoming video signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Geometry (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Image Processing (AREA)
  • Projection Apparatus (AREA)

Abstract

【課題】増大した見かけの解像度によりイメージを投影する投影システムが提供される。【解決手段】投影システムは、1つ以上のプロジェクタと、リサンプラモジュールと、デコンボリューションモジュールとを含む。リサンプラモジュールは、到来する高解像度信号をアップサンプリングし、信号に対して整数シフト演算を実行し、2つ以上の低解像度信号にダウンサンプリングするように構成される。デコンボリューションモジュールは、アップサンプリングされた高解像度信号を、空間領域デコンボリューション演算を使用してフィルタリングするように構成され、空間領域デコンボリューション演算は、1つ以上のプロジェクタの特徴に基づく周波数領域光学補正を近似する。好適には、空間領域デコンボリューション演算は、ウィナーフィルタの空間領域近似から得られたN×N空間カーネルを使用する。【選択図】図1

Description

本開示は、全般的に、投影システムに関し、特に、投影システムにおける解像度向上のための空間ベースのフィルタに関する。
高精細(HD:High definition)ビデオは、消費者レベルおよび事業レベルの双方で広範に利用可能となった。例えば、家庭用娯楽機器産業では、新たなUltra HD(超高精細)/4Kビデオ技術に消費者の強い関心がある。しかしながら、より高い解像度のプロジェクタは高価である。一方、超解像度はイメージ処理研究の領域であり、低解像度の状況においてより高い解像度の画像を生成することを追求する。
例えば、イメージおよびビデオコンテンツは、非常に高い解像度のカメラを使用して獲得できるが、これに比べ現代の表示プロジェクタは、表示解像度が非常に限られている。結果として、プロジェクタの見かけの表示解像度を増大させる必要がある。プロジェクタの解像度を向上させる典型的なモデルは、高解像度信号を複数のより低い解像度の信号に分解し、それらを異なるオフセットで、さらにビデオの場合にはより高いフレームレートで表示することからなる。
低解像度の状況においてより高い解像度の画像を生成することの超解像度(SR:super−resolution)問題は、文献において周知であり、この問題に対処するための種々の方法論が提案されてきた。
SR方法の1つの部類は、フーリエ変換を使用してSR問題を解決する。周波数ベースのSR方法は、3つの基本原則、1)入力イメージが帯域制限されていること、2)連続フーリエ変換(CFT:continuous Fourier transform)と離散フーリエ変換(DFT:discrete Fourier transform)との間にエイリアス関係があること、3)フーリエ変換のシフト性が存在すること、に依拠する。CFTとDFTとの間のエイリアス関係は、最小二乗法を使用して解決される。周波数ベースのSRモデルは、モデル誤差に影響を受けやすい傾向にある。さらに、かかるモデルは、並進運動を扱うが、非並進運動はモデル性能を著しく劣化させる。さらに、周波数ベースのSR方法は、空間不変量劣化モデルに限られ、これにより、劣化モデルが空間的に変化する多くの実世界のシナリオ(例えば空間的に変化する点拡がり関数(PSF:point spread function))においてその性能が制限される。一般に、周波数ベースのSR方法は、問題の正則化のために空間領域のアプリオリ知識を含めるための限られた能力を欠点として持つ。
超解像度方法の別の部類は、空間領域において問題を解決する。空間領域SR手法は、グローバルおよびローカルモーション、空間的に変化するPSF、モーションブラー、圧縮アーチファクトなどのより複雑なSR関係の課題に対応することができる。空間領域SR方法の例には、反復逆投影、非反復空間領域、およびハイブリッド型方法が含まれる。確率統計的方法、特にベイズベースの方法では、SR問題が統計的推定問題として見られるが、この方法は、SR問題の十分な解を達成するためにアプリオリ制約(例えばエッジ保存画像先見情報)を含めるその能力が理由で、SR分野の研究者の注目を急速に集めた。他方、空間領域ベースの方法は計算コストが高いので、リアルタイム用途には適していない。特に、アプリオリ制約の包含は、反復逆投影関係の方法において容易に達成されない。アプリオリSR制約をモデル化する柔軟かつ便利な方式として知られる確率統計的方法でさえ、イメージの高周波成分をあまりうまく再構築できないという制限がある。
さらに、多くのSR方法(周波数および空間ベース両方)は、時間がかかるため、SRベースの用途のリアルタイム制約に対処することができない。
光学収差を補正し元のイメージの近似を回復するために、種々のイメージ復元手法が開発された。従来の方法は、主として、表示前にフィルタによりソースイメージを変換することを伴う。しかしながら、既存の多くの手法で、フィルタリング動作は周波数領域で実施され、複雑なハードウェアを必要とする。商用プロジェクタの限定的な処理能力が原因で、リアルタイム実施において周波数領域光学収差補正を達成することは実現可能でない。
全般的に、本開示は、増大した見かけの表示解像度によりイメージを投影するシステムおよび方法を対象とする。システムは、1つ以上のプロジェクタと、リサンプラモジュールと、デコンボリューションモジュールとを含む。一部の実施において、デコンボリューションモジュールは、1つ以上のプロジェクタの特徴に基づく光学補正のために周波数領域ウィナーデコンボリューションフィルタの空間近似を備えるN×N空間カーネルを使用し、Nは小さな奇数である(例えば3、5、7・・・)。高解像度信号がリサンプラモジュールにおいて受信され、1つ以上のプロジェクタの2倍の解像度にアップサンプリングされる。デコンボリューションモジュールは、N×N空間カーネルを使用して信号をフィルタリングする。リサンプラモジュールは、フィルタリングされた信号を2つ以上の低解像度信号にダウンサンプリングする。増大した見かけの表示解像度によりイメージを投影するために、2つ以上の低解像度信号は、1つ以上のプロジェクタにおいて受信され、重ね合わされる。
一部の実施において、1つのプロジェクタが、投影されるイメージをオフセットする光学機械式シフタを使用して連続的に2つ以上の低解像度信号を表示してもよい。別の実施では、複数のプロジェクタが使用されて、それぞれが2つ以上の低解像度信号のうちの1つを受信し重ね合わせてもよい。
本開示では、構成要素は1つ以上の機能を実行する「ように構成され」または当該機能「のために構成され」ると記載されてもよい。一般に、機能を実行するように構成されまたは実行のために構成された構成要素は、その機能を実行できるか、またはその機能を実行するのに適しているか、またはその機能を実行するようになっているか、またはその機能を実行するように動作可能であるか、またはその他その機能を実行する能力がある。
本開示の一態様によれば、増大した見かけの表示解像度によりイメージを投影するシステムが提供される。システムは、リサンプラモジュールと、1つ以上のプロジェクタと、デコンボリューションモジュールとを含む。リサンプラモジュールは、高解像度信号を受信し、高解像度信号をアップサンプリングし、整数シフト演算を実行し、2つ以上の低解像度信号にダウンサンプリングするように構成される。デコンボリューションモジュールは、空間領域デコンボリューション演算を使用して高解像度信号をフィルタリングするように構成され、空間領域デコンボリューション演算は、1つ以上のプロジェクタの特徴に基づく周波数領域光学補正を近似する。1つ以上のプロジェクタは、増大した見かけの表示解像度によりイメージを投影するために、2つ以上の低解像度信号を受信して、2つ以上の低解像度信号を重ね合わせるように構成される。
一部の実施において、空間領域デコンボリューション演算は、1つ以上のプロジェクタの特徴に基づく光学補正のために周波数領域ウィナーデコンボリューションフィルタの空間近似を備える空間カーネルを使用する。
一部の実施において、空間カーネルはN×N空間カーネルであり、Nは奇数である。
一部の実施において、1つ以上のプロジェクタは、2つ以上の低解像度信号を受信するように構成された1つのプロジェクタを備え、プロジェクタは、投影されるイメージをオフセットする光学機械式シフタを有する。
一部の実施において、1つ以上のプロジェクタは、2つ以上のプロジェクタを備え、それぞれが、2つ以上の低解像度信号のうちの1つを受信してイメージを投影するように構成される。
本開示の別の態様によれば、1つ以上のプロジェクタを使用して、増大した見かけの表示解像度によりイメージを投影する方法が提供され、本方法は、高解像度信号を受信するステップと、高解像度信号をアップサンプリングするステップと、アップサンプリングされた高解像度信号を、空間領域デコンボリューション演算を使用してフィルタリングするステップであって、空間領域デコンボリューション演算は、1つ以上のプロジェクタの特徴に基づく周波数領域光学補正を近似する、ステップと、高解像度信号を第1の低解像度信号にダウンサンプリングするステップと、整数シフト演算を実行し、高解像度信号を第2の低解像度信号にダウンサンプリングするステップと、1つ以上のプロジェクタが、増大した見かけの表示解像度によりイメージを投影するために第1および第2の低解像度信号を受信し重ね合わせるステップとを含む。
一部の実施において、空間デコンボリューション演算は、1つ以上のプロジェクタの特徴に基づく光学補正のために周波数領域ウィナーデコンボリューションフィルタの空間近似を備えるデコンボリューション空間カーネルを使用する。
一部の実施において、デコンボリューション空間カーネルは、1つ以上のプロジェクタの点拡がり関数を推定し、点拡がり関数に基づきウィナーフィルタを構築し、ウィナーフィルタの逆フーリエ変換を適用して空間カーネルを得ることにより空間領域ウィナーフィルタを生成することによって生成される。
一部の実施において、本方法は、逆フーリエ変換を適用する前にウィナーフィルタに帯域制限を適用することをさらに含む。
一部の実施において、空間カーネルはN×N空間カーネルであり、Nは奇数である。
一部の実施において、本方法は、コンテンツ固有の使用事例のためにウィナーフィルタに適用される帯域制限の遮断周波数を変えるステップをさらに含む。
一部の実施において、1つ以上のプロジェクタの点拡がり関数を推定するステップは、1つ以上のプロジェクタの単一画素応答を捕捉することを含む。
一部の実施において、本方法は、2つ以上のプロジェクタそれぞれの幾何学的較正、測光較正、および色較正を実行するために前処理をするステップをさらに含む。
一部の実施において、アップサンプリングは、1つ以上のプロジェクタの解像度の2倍の解像度に実行される。
一部の実施において、2つのプロジェクタが使用され、低解像度信号はそれぞれ、高解像度信号の半分の画素を含む。
一部の実施において、2つのプロジェクタは、第1および第2の低解像度信号を2倍の速度で受信し重ね合わせる。
一部の実施において、4つのプロジェクタが使用され、本方法は、整数シフト演算を実行し、高解像度信号を第3の低解像度信号にダウンサンプリングするステップと、整数シフト演算を実行し、高解像度信号を第4の低解像度信号にダウンサンプリングするステップとをさらに含み、低解像度信号はそれぞれ、高解像度信号の4分の1の画素を含む。
一部の実施において、4つのプロジェクタは、低解像度信号を4倍の速度で受信し重ね合わせる。
本願明細書に記載の様々な実施がより深く理解されるように、さらにそれらがどのように実施され得るかをより明確に示すために、以下、例示としてのみ添付の図面を参照する。
非限定的な実施形態による、2つの低解像度信号を使用して増大した見かけの表示解像度によりイメージを投影する投影システムを示す。 非限定的な実施形態による、増大した見かけの表示解像度によりイメージを投影する方法を示す。 点拡がり関数のフーリエ変換のサンプルプロットを示す。 ウィナーフィルタのサンプルプロットを示す。 帯域制限が追加された図4のウィナーフィルタのサンプルプロットを示す。 帯域制限空間領域ウィナーフィルタのサンプルを示す。 空間領域ウィナーフィルタのサンプルを示す。 N×N帯域制限空間領域ウィナーフィルタのサンプルを示す。 N×N空間領域ウィナーフィルタのサンプルを示す。
図1は、増大した見かけの表示解像度によりイメージを投影するシステム100を示す。システム100は、リサンプラモジュール102、デコンボリューションモジュール104、およびプロジェクタ106などの1つ以上のプロジェクタを含む。リサンプラモジュール102、デコンボリューションモジュール104、およびプロジェクタ106は、処理および投影のためにイメージまたはビデオ信号を送信および受信するように相互に接続される。
システム100の動作を詳細に説明する前に、システム100のコンポーネントについてさらに記載する。
プロジェクタ106は、次に限定はされないが、DMD(digital micromirror device:デジタルマイクロミラーデバイス)、LCOS(Liquid Crystal on Silicon:液晶オンシリコン)デバイス、および同様のものなど、任意の適切なタイプのプロジェクタ、またはプロジェクタの組み合わせとすることができる。したがって、プロジェクタ106は、1つ以上の光源、所望のイメージをもたらすために光源からの光を変調する1つ以上の変調要素、および変調された光を誘導するレンズアセンブリを含む。
リサンプラモジュール102は、概して、高解像度信号108を受信し、高解像度信号をアップサンプリング済み高解像度信号109aにアップサンプリングし、デコンボリューションモジュール104から出力された信号109bに対して整数シフト演算を実行し、デコンボリューションモジュール104から出力された信号109bを2つ以上の低解像度信号110aおよび110bにダウンサンプリングするように構成される。
デコンボリューションモジュール104は、概して、アップサンプリングされた高解像度信号109aを、空間領域デコンボリューション演算を使用してフィルタリングしてフィルタリングされたアップサンプリング済み信号109bを出力するように構成され、空間領域デコンボリューション演算は、プロジェクタ106の特徴に基づく周波数領域光学補正を近似する。空間領域デコンボリューション演算は、光学ぼけを修正するためにイメージを予め補正する。この事例において、ぼけは、プロジェクタのレンズにより引き起こされ、さらに、プロジェクタ106の画素がコンテンツの画素(例えば高解像度信号108の画素)よりも大きいことにより引き起こされる。
リサンプラモジュール102およびデコンボリューションモジュール104は、例えば既存のFPGA(field−programmable gate array:フィールドプログラマブルゲートアレイ)ハードウェアを、リサンプラモジュール102およびデコンボリューションモジュール104の機能を実行するように構成することなどによって、プロジェクタ106に組み込まれるのが好ましい。
システム100のコンポーネントについて記載したところで、以下、図2を参照してシステム100の動作を詳細に記載する。図2は、増大した見かけの表示解像度によりイメージを投影する方法200を示す。方法200の説明を支援するために、方法200は、システム100を使用して実行されるものと想定されるが、方法200は他の適切なシステムによっても実行可能であることが意図される。
ブロック202において、リサンプラモジュール102は高解像度信号108を受信する。
ブロック204において、リサンプラモジュール102は、高解像度信号108をアップサンプリングする。
好適には、高解像度信号は、プロジェクタ106の解像度の2倍の解像度にアップサンプリングされ、アップサンプリングされた高解像度信号109aは、後述する通り、デコンボリューションモジュール104により生成される空間カーネルの解像度に一致する結果となる。
ブロック206において、デコンボリューションモジュール104は、アップサンプリングされた高解像度信号109aを、空間デコンボリューション演算を使用してフィルタリングし、空間デコンボリューション演算は、プロジェクタ106の特徴に基づく周波数領域光学補正を近似する。
好適には、空間デコンボリューション演算は、プロジェクタ106の点拡がり関数を推定し、点拡がり関数に基づきウィナーフィルタを構築し、ウィナーフィルタの逆フーリエ変換または逆高速フーリエ変換(IFFT:inverse fast Fourier transform)を適用しそれにより空間カーネルを得ることで空間領域ウィナーフィルタを生成することによって導き出される空間カーネルを使用する。結果として生じる空間カーネルは、周波数領域光学収差補正フィルタの空間的近似であり、空間領域ウィナーフィルタとも呼ばれる。
空間領域ウィナーフィルタを定義するための第1のステップは、プロジェクタ106および光学系がどのように点光源に応答するか、すなわちインパルス応答を表す点拡がり関数(PSF)を推定することである。プロジェクタ106のPSFを正確に測定するために、レンズのないカメラが使用されてもよい。レンズのないカメラは、プロジェクタの単一画素応答を捕捉するように構成される。具体的には、単一画素が、レンズのないカメラの相補型金属酸化膜半導体(CMOS:complementary metal−oxide−semiconductor)能動画素センサ(APS:active−pixel sensor)に直接投影されてもよい。
単一のプロジェクタが使用される場合、推定は、PSFが空間的に不変で、単一画素応答が投影エリア中で均一であるとの想定のもとで獲得されてもよい。類似品質の複数のプロジェクタが使用される場合、各プロジェクタにわたってPSFが空間的に不変で、一貫しているとの想定が使用されてもよい。交互に、各プロジェクタに対して別個のPSFが推定されてもよく、各プロジェクタに対して異なった空間領域ウィナーフィルタが生じてもよい。
PSFおよびプロジェクタビデオコンテンツは、同じレジストレーションに移されるべきである。上述の通り、高解像度信号(すなわちプロジェクタビデオコンテンツ)は、プロジェクタの2倍の解像度にアップサンプリングされるのが好ましい。プロジェクタのPSFを捕捉するカメラは一般にプロジェクタ自体よりも高い解像度を有するので、PSFイメージの画素のサイズがアップサンプリングされた高解像度信号109a(すなわちコンテンツ画素)に一致するように、カメラにより捕捉されたPSFイメージはダウンサンプリングされる。
プロジェクタ106のPSFを獲得した後、周波数領域ウィナーフィルタが構築される。ウィナーフィルタは、推定されたPSFと、大域的な相加性雑音レベルn(i,j)の仮定とに基づき、次式により与えられる。
式中、X(u,v)、H(u,v)およびN(u,v)はそれぞれ原信号x(i,j)、PSF h(i,j)および相加性雑音n(i,j)のフーリエ変換である。N/Xを一定の相加性雑音比nに還元できる。nの小さな値により、ウィナーフィルタは、周波数領域PSFの逆数に非常に近くなる。
図3および4は、H(PSFのフーリエ変換)およびG(ウィナーフィルタ)のサンプルプロットを表し、3×3 PSFに対しn=0.0001である。
図4から分かるように、ウィナーフィルタは、そのコンテンツのほとんどを、アップサンプリングされた高解像度信号109の1画素の規模の強い特徴に対応する高周波数に有する。これらの強い高周波数項は、一般に物理的意味を有さず、それらの影響が完全に打ち消しあうまでイメージ処理中により多くの項を伝達することを要する。ウィナーフィルタのIFFTをとる結果、中央に多くのエネルギーを有する空間カーネルがもたらされる。したがって、結果として生じる空間領域ウィナーフィルタは、オーバーシャープニング効果を有する。さらに、結果の空間カーネルのエネルギーは中央に集中せず、空間的により小さいカーネルを使用して近似することを難しくする。
改善された結果を求めて、ウィナーフィルタに帯域制限が追加され、高周波数成分を弱めてもよい。図5は、設定された半径をもつ円形の帯域制限が追加された図4のウィナーフィルタを示し、項は帯域制限の円外1に設定されている。適切な帯域制限を設定することにより、ウィナーフィルタの効果がはるかに少ない高周波数コンテンツとともに保持され得る。コンテンツ固有の使用事例のためにウィナーフィルタに適用される帯域制限の遮断周波数は変えることができる。例えば帯域制限パラメータは、ゼロまたはほぼゼロのアーチファクトを伴う良好な解像度向上のために第1の値に設定されてもよく、または弱いアーチファクトを伴うさらに改善された解像度向上のために第2の値に設定されてもよい。このように、ウィナーフィルタに適用される帯域制限円のサイズを性能調整パラメータとして使用できる。
帯域制限ウィナーフィルタに対する空間的等価物は、そのIFFTを計算して空間カーネルを得ることにより発見される。
図6および7は、それぞれ、ウィナーフィルタに帯域制限が適用された状態およびされていない状態の、ウィナーフィルタのIFFTの完全な結果を示す。水平面の増分は、1/2イメージャ画素(すなわち、アップサンプリングされた高解像度信号109の画素)に対応する。空間カーネルは、少数の1/2イメージャ画素内に限定された項を有する。図7の帯域制限されていない空間領域ウィナーフィルタは、より多くの項、ならびにより大きな正値および負値を有する。空間カーネルにおけるより多くの項は、はるかに大きなイメージ処理資源を必要とし、項における大きな変化がイメージアーチファクトのリスクを増大させる。
空間領域ウィナーフィルタはおおむね中心に集中するので、空間カーネルのサイズを制限可能である。図8および9は、それぞれ、図6および図7のウィナーフィルタの帯域制限および非帯域制限IFFTから得られたサンプルN×N空間カーネルを示す。一般に、Nは、フィルタが画素を中心とすることができるように、奇数であるべきである。
空間カーネルは、画素を中心として空間カーネルを置き、空間カーネルの値と対応する付近の画素値とを掛け合わせ、結果を合計することにより、アップサンプリングされた高解像度信号109の各画素に適用される。
再び図2を参照する。ブロック208において、リサンプラモジュール102は、フィルタリングされたアップサンプリング済み高解像度信号109bを、第1の低解像度信号110aに直接ダウンサンプリングする。
ブロック210において、リサンプラモジュール102は、整数シフト演算を実行し、フィルタリングされたアップサンプリング済み高解像度信号109bを第2の低解像度信号110bにダウンサンプリングする。
或る実施形態において、2重の解像度向上が実行される。本実施形態において、リサンプラモジュール102は、フィルタリングされたアップサンプリング済み高解像度信号109bを、アップサンプリングされた高解像度信号の半分の画素をそれぞれが含む第1および第2の低解像度信号110aおよび110bにダウンサンプリングしてもよい。別の実施形態において、4重の解像度向上が実行され、リサンプラモジュール102は、さらなる整数シフト演算ならびに第3および第4の低解像度信号へのダウンサンプリング演算を実行してもよい。この実施形態において、4つの低解像度信号それぞれは、アップサンプリングされた高解像度信号の4分の1の画素を含んでもよい。
図2のブロック212において、プロジェクタ106が、増大した見かけの表示解像度によりイメージを投影するために第1および第2の低解像度信号110aおよび110bを受信し、それらを重ね合わせる。
2重の解像度向上の実施形態において、プロジェクタ106は、高解像度信号の2倍の速度で、第1および第2の低解像度信号110aおよび110bを受信し重ね合わせてもよい。4重の解像度向上の実施形態において、プロジェクタ106は、高解像度信号の4倍の速度で、第1、第2、第3、および第4の低解像度信号を受信し重ね合わせてもよい。
或る実施形態において、1つ以上のプロジェクタは、2つ以上の低解像度信号を受信して、投影イメージをオフセットする光学機械式シフタを使用してその信号を投影する、1つのプロジェクタ106を備えてもよい。低解像度信号により生成されるサブフレームは、高フレームレートを所与として、人間視覚システム(HVS:human visual system)により単一の高解像度イメージに結合され、観察者が、元の高解像度ソースを近似する高解像度投影を見ることができるようにする。
別の実施形態において、1つ以上のプロジェクタは、2つ以上の低解像度信号のうちの1つを受信してイメージを投影するようそれぞれが構成された2つ以上のプロジェクタ106を備えてもよい。本実施形態では、すべてのオフセットサブフレームが同時に投影される。複数の低解像度プロジェクタの使用は、幾何学的較正、測光較正、および色較正のための前処理を必要とすることもある。
例えば、2重の解像度向上において2つのプロジェクタ106が使用されてもよい。各プロジェクタ106は、2つの低解像度信号のうちの1つを受信して、投影されるイメージを重ね合わせるように構成される。別の例において、4つのプロジェクタ106が4重の解像度向上実施形態に使用されてもよい。各プロジェクタ106は、4つの低解像度信号のうちの1つを受信して、投影されるイメージを重ね合わせるように構成される。
光学機械式イメージシフタは、1つのプロジェクタを使用するので色および投影位置の較正を必要としないが、複数のサブフレームを同時に投影することができない。複数の低解像度プロジェクタの融合は、使用されるすべてのプロジェクタについて位置および色の較正を必要とするが、すべてのサブフレームを同時に投影することができる。
したがって、上述した通り、システム100および方法200は、増大した見かけの表示解像度によるイメージの投影を可能にする。計算コストの高い従来の空間ベースおよび周波数ベースの手法と異なり、N×N空間領域ウィナーフィルタの使用は、フィルタリングを、既存のFPGA資源を使用してリアルタイムで実施可能な2D畳み込み演算に簡略化する。さらに、この手法の空間的性質は、多くの周波数ベースの制限の克服を可能にする。例えば、問題の正則化に必要なアプリオリ知識を回避できる。
記載されたシステムおよび方法は、光学機械式シフタを使用して単一プロジェクタに実装でき、さらに、複数のプロジェクタシステムに拡張もできる。このシステムおよび方法の複数のプロジェクタシステムへの拡張は、プロジェクタ間の幾何学的較正、測光較正、および色較正のための簡単な前処理であり、リサンプラモジュール、デコンボリューションモジュール、または空間カーネル計算に大きな変更は必要ない。
当業者には当然のことながら、代わりに可能な実施および変更はさらに多くあり、上記の例は1つ以上の実施の例示でしかない。したがって、範囲は、本願明細書に添付された特許請求の範囲によってのみ限定される。

Claims (18)

  1. 増大した見かけの表示解像度によりイメージを投影するシステムであって、
    高解像度信号を受信し、前記高解像度信号をアップサンプリングし、整数シフト演算を実行し、2つ以上の低解像度信号にダウンサンプリングするように構成されたリサンプラモジュールと、
    増大した見かけの表示解像度により前記イメージを投影するために、前記2つ以上の低解像度信号を受信して、前記2つ以上の低解像度信号を重ね合わせるように構成された1つ以上のプロジェクタと、
    空間領域デコンボリューション演算を使用して前記高解像度信号をフィルタリングするように構成されたデコンボリューションモジュールであって、前記空間領域デコンボリューション演算は、前記1つ以上のプロジェクタの特徴に基づく周波数領域光学補正を近似する、前記デコンボリューションモジュールと、
    を備えるシステム。
  2. 前記空間領域デコンボリューション演算は、前記1つ以上のプロジェクタの特徴に基づく光学補正のために周波数領域ウィナーデコンボリューションフィルタの空間近似を備えた空間カーネルを使用する、請求項1に記載のシステム。
  3. 前記空間カーネルは、N×N空間カーネルであり、Nは奇数である、請求項2に記載のシステム。
  4. 前記1つ以上のプロジェクタは、前記2つ以上の低解像度信号を受信するように構成された1つのプロジェクタを備え、前記プロジェクタは、前記投影されるイメージをオフセットする光学機械式シフタを有する、請求項1に記載のシステム。
  5. 前記1つ以上のプロジェクタは、2つ以上のプロジェクタを備え、それぞれが、前記2つ以上の低解像度信号のうちの1つを受信して前記イメージを投影するように構成される、請求項1に記載のシステム。
  6. 1つ以上のプロジェクタを使用して、増大した見かけの表示解像度によりイメージを投影する方法であって、前記方法は、
    高解像度信号を受信するステップと、
    前記高解像度信号をアップサンプリングするステップと、
    前記アップサンプリングされた高解像度信号を、空間領域デコンボリューション演算を使用してフィルタリングするステップであって、前記空間領域デコンボリューション演算は、前記1つ以上のプロジェクタの特徴に基づく周波数領域光学補正を近似する、ステップと、
    前記高解像度信号を第1の低解像度信号にダウンサンプリングするステップと、
    整数シフト演算を実行し、前記高解像度信号を第2の低解像度信号にダウンサンプリングするステップと、
    増大した見かけの表示解像度によりイメージを投影するために、前記1つ以上のプロジェクタが、前記第1および第2の低解像度信号を受信して重ね合わせるステップと、
    を含む、方法。
  7. 前記空間領域デコンボリューション演算は、前記1つ以上のプロジェクタの特徴に基づく光学補正のために周波数領域ウィナーデコンボリューションフィルタの空間近似を備えたデコンボリューション空間カーネルを使用する、請求項6に記載の方法。
  8. 前記デコンボリューション空間カーネルは、前記1つ以上のプロジェクタの点拡がり関数を推定し、前記点拡がり関数に基づきウィナーフィルタを構築し、前記ウィナーフィルタの逆フーリエ変換を適用して空間カーネルを得ることにより空間領域ウィナーフィルタを生成することによって生成される、請求項7に記載の方法。
  9. 前記逆フーリエ変換を適用する前に前記ウィナーフィルタに帯域制限を適用することをさらに含む、請求項8に記載の方法。
  10. 前記空間カーネルは、N×N空間カーネルであり、Nは奇数である、請求項9に記載の方法。
  11. コンテンツ固有の使用事例のために前記ウィナーフィルタに適用される前記帯域制限の遮断周波数を変えるステップをさらに含む、請求項9に記載の方法。
  12. 前記1つ以上のプロジェクタの前記点拡がり関数を推定するステップは、前記1つ以上のプロジェクタの単一画素応答を捕捉するステップを含む、請求項8に記載の方法。
  13. 2つ以上のプロジェクタそれぞれの幾何学的較正、測光較正、および色較正を実行するために前処理をするステップをさらに含む、請求項6に記載の方法。
  14. 前記アップサンプリングは、前記1つ以上のプロジェクタの解像度の2倍の解像度に実行される、請求項6に記載の方法。
  15. 前記方法は、2つのプロジェクタを使用し、前記低解像度信号はそれぞれ、前記高解像度信号の半分の画素を含む、請求項14に記載の方法。
  16. 前記2つのプロジェクタは、前記第1および第2の低解像度信号を2倍の速度で受信し重ね合わせる、請求項15に記載の方法。
  17. 前記方法は、4つのプロジェクタを使用し、前記方法は、
    整数シフト演算を実行し、前記高解像度信号を第3の低解像度信号にダウンサンプリングするステップと、
    整数シフト演算を実行し、前記高解像度信号を第4の低解像度信号にダウンサンプリングするステップと、
    をさらに含み、
    前記低解像度信号はそれぞれ、前記高解像度信号の4分の1の画素を含む、請求項14に記載の方法。
  18. 前記4つのプロジェクタは、前記低解像度信号を4倍の速度で受信し重ね合わせる、請求項17に記載の方法。
JP2018144344A 2017-08-14 2018-07-31 シフトされた重ね合わせを使用したリアルタイム空間ベースの解像度向上 Active JP7278726B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/676,394 US10009587B1 (en) 2017-08-14 2017-08-14 Real-time spatial-based resolution enhancement using shifted superposition
US15/676,394 2017-08-14

Publications (2)

Publication Number Publication Date
JP2019036952A true JP2019036952A (ja) 2019-03-07
JP7278726B2 JP7278726B2 (ja) 2023-05-22

Family

ID=62599006

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018144344A Active JP7278726B2 (ja) 2017-08-14 2018-07-31 シフトされた重ね合わせを使用したリアルタイム空間ベースの解像度向上

Country Status (4)

Country Link
US (1) US10009587B1 (ja)
EP (1) EP3445047B1 (ja)
JP (1) JP7278726B2 (ja)
CN (1) CN109389559B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220087734A (ko) * 2020-12-18 2022-06-27 한국전자통신연구원 영상 해상도 개선 방법 및 장치

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109064414B (zh) * 2018-07-06 2020-11-10 维沃移动通信有限公司 一种图像去噪方法及装置
US11109005B2 (en) 2019-04-18 2021-08-31 Christie Digital Systems Usa, Inc. Device, system and method for enhancing one or more of high contrast regions and text regions in projected images
CN111179883B (zh) * 2020-01-03 2022-06-03 云谷(固安)科技有限公司 图像显示方法和装置、移动终端、计算机设备、存储介质
CN112862681B (zh) * 2021-01-29 2023-04-14 中国科学院深圳先进技术研究院 一种超分辨率方法、装置、终端设备及存储介质
CN113945544B (zh) * 2021-10-13 2023-10-17 天津大学 面向空间频域测量的动态单像素成像及退化图像复原方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070286514A1 (en) * 2006-06-08 2007-12-13 Michael Scott Brown Minimizing image blur in an image projected onto a display surface by a projector
JP2008268557A (ja) * 2007-04-20 2008-11-06 Sony Corp 画像生成装置及び方法、プログラム、並びに記録媒体
US20160037147A1 (en) * 2014-07-29 2016-02-04 Texas Instruments Incorporated Methods and Apparatus for Optical Display Using Multiple Spatial Light Modulators for Increased Resolution

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6340994B1 (en) 1998-08-12 2002-01-22 Pixonics, Llc System and method for using temporal gamma and reverse super-resolution to process images for use in digital display systems
US6937772B2 (en) * 2000-12-20 2005-08-30 Eastman Kodak Company Multiresolution based method for removing noise from digital images
US7228005B1 (en) * 2002-06-17 2007-06-05 National Security Technologies, Llc Adaptive wiener image restoration kernel
WO2005031645A1 (en) 2003-10-02 2005-04-07 Commonwealth Scientific And Industrial Research Organisation Enhancement of spatial resolution of imaging systems by means of defocus
US7443364B2 (en) * 2005-03-15 2008-10-28 Hewlett-Packard Development Company, L.P. Projection of overlapping sub-frames onto a surface
CA2570090C (en) * 2006-12-06 2014-08-19 Brightside Technologies Inc. Representing and reconstructing high dynamic range images
US8508672B2 (en) 2006-12-28 2013-08-13 Texas Instruments Incorporated System and method for improving video image sharpness
US7974498B2 (en) * 2007-08-08 2011-07-05 Microsoft Corporation Super-resolution in periodic and aperiodic pixel imaging
JP4458159B2 (ja) 2007-12-11 2010-04-28 セイコーエプソン株式会社 信号変換装置、映像投影装置及び映像投影システム
JP5606054B2 (ja) 2009-12-16 2014-10-15 キヤノン株式会社 画像処理装置およびその制御方法、プログラム
CN101980289B (zh) * 2010-10-25 2012-06-27 上海大学 基于频域配准和凸集投影的多帧图像超分辨率重建方法
CN102222320B (zh) * 2011-05-24 2013-01-02 西安电子科技大学 基于全变分迭代反向投影的单帧图像空间分辨率增强方法
WO2014149902A1 (en) * 2013-03-15 2014-09-25 Pelican Imaging Corporation Systems and methods for providing an array projector
US9692939B2 (en) * 2013-05-29 2017-06-27 Yeda Research And Development Co. Ltd. Device, system, and method of blind deblurring and blind super-resolution utilizing internal patch recurrence
JP6242157B2 (ja) * 2013-10-30 2017-12-06 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070286514A1 (en) * 2006-06-08 2007-12-13 Michael Scott Brown Minimizing image blur in an image projected onto a display surface by a projector
JP2008268557A (ja) * 2007-04-20 2008-11-06 Sony Corp 画像生成装置及び方法、プログラム、並びに記録媒体
US20160037147A1 (en) * 2014-07-29 2016-02-04 Texas Instruments Incorporated Methods and Apparatus for Optical Display Using Multiple Spatial Light Modulators for Increased Resolution

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220087734A (ko) * 2020-12-18 2022-06-27 한국전자통신연구원 영상 해상도 개선 방법 및 장치
KR102677172B1 (ko) * 2020-12-18 2024-06-20 한국전자통신연구원 영상 해상도 개선 방법 및 장치

Also Published As

Publication number Publication date
CN109389559B (zh) 2023-10-27
EP3445047B1 (en) 2022-01-26
EP3445047A1 (en) 2019-02-20
JP7278726B2 (ja) 2023-05-22
CN109389559A (zh) 2019-02-26
US10009587B1 (en) 2018-06-26

Similar Documents

Publication Publication Date Title
JP7278726B2 (ja) シフトされた重ね合わせを使用したリアルタイム空間ベースの解像度向上
Wronski et al. Handheld multi-frame super-resolution
US9998666B2 (en) Systems and methods for burst image deblurring
US9792668B2 (en) Photographic image acquistion device and method
US8405763B2 (en) Video camera for reconstructing varying spatio-temporal resolution videos
KR102481882B1 (ko) 이미지를 처리하는 방법 및 장치
Delbracio et al. Removing camera shake via weighted fourier burst accumulation
Bareja et al. An effective iterative back projection based single image super resolution approach
Makwana et al. Single image super-resolution via iterative back projection based Canny edge detection and a Gabor filter prior
Simpkins et al. An introduction to super-resolution imaging
Chen et al. Resolution improvement in fza lens-less camera by synthesizing images captured with different mask-sensor distances
WO2011132279A1 (ja) 画像処理装置、方法、及び記録媒体
JP5980081B2 (ja) 撮像装置および画像処理方法
CN107155096B (zh) 一种基于半误差反向投影的超分辨率重建方法及装置
Hardie Super-resolution using adaptive Wiener filters
JP6516695B2 (ja) 画像処理システムおよび画像処理装置
JP2020031327A (ja) レンズレス撮像装置
CN112241936B (zh) 图像处理方法、装置及设备、存储介质
Chu Super-resolution image reconstruction for mobile devices
Ma et al. 63‐3: Real‐time Spatial‐based Projector Resolution Enhancement
Ma et al. Superresolution reconstruction of hyperspectral remote sensing imagery using constrained optimization of POCS
Bonchev et al. Improving super-resolution image reconstruction by in-plane camera rotation
Arora et al. Robust image registration with illumination, blur and noise variations for super-resolution
Lee et al. Multi-frame super-resolution utilizing spatially adaptive regularization for ToF camera
Paunwala et al. Image Super Resolution

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210527

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220614

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220912

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230407

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230407

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230425

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230510

R150 Certificate of patent or registration of utility model

Ref document number: 7278726

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150