JP2015510705A - 解像度向上のためのシステム及び方法 - Google Patents

解像度向上のためのシステム及び方法 Download PDF

Info

Publication number
JP2015510705A
JP2015510705A JP2014545370A JP2014545370A JP2015510705A JP 2015510705 A JP2015510705 A JP 2015510705A JP 2014545370 A JP2014545370 A JP 2014545370A JP 2014545370 A JP2014545370 A JP 2014545370A JP 2015510705 A JP2015510705 A JP 2015510705A
Authority
JP
Japan
Prior art keywords
image
resolution
acquired
buffer
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014545370A
Other languages
English (en)
Inventor
ルトフィ・ムラット・ゲヴレクジ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aselsan Elektronik Sanayi ve Ticaret AS
Original Assignee
Aselsan Elektronik Sanayi ve Ticaret AS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aselsan Elektronik Sanayi ve Ticaret AS filed Critical Aselsan Elektronik Sanayi ve Ticaret AS
Publication of JP2015510705A publication Critical patent/JP2015510705A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • G06T3/4076Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution using the original low-resolution images to iteratively correct the high-resolution images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/28Recognition of hand or arm movements, e.g. recognition of deaf sign language

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Social Psychology (AREA)
  • Psychiatry (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)

Abstract

本発明は、ジンバルを使用することなく深度解像度を向上させることを可能にして、高解像度において照明条件及びカメラパラメータから独立した深度記述を実行する、解像度向上のためのシステム(1)及び方法(100)に関する。

Description

本発明は、画像処理技術において深度解像度(深さ解像度、depth resolution)を増加させることを可能にする、解像度向上のためのシステム及び方法に関する。
物体モーション解析を取り扱うモーション技術からの構造(structure)は、深度情報(depth information)の取得において高い頻度で使用される。上述の技術は、異なる複数の角度から撮影された複数の画像を関連付けることによる、深度分析(depth analysis)の実施に基づく。しかしながら、位置(点、point)の関連付け(association)は、テクスチャのない(textureless)領域においては煩雑なタスクであり、また時間を費やすタスクである。
構造化された照明(structured lightening)、立体映像(stereo vision)、及びレーザースキャニング(laser scanning)などの複数の最新の再構築技術(reconstruction technique)は、それらが使用されるシステムの配備を複雑にする、いくつかの部分又は可動ジンバル(moving gimbal)を含む。上述の複数のシステムよりもコンパクトな飛行時間(Time of Flight、ToF)カメラシステムの需要は、徐々に増加している。深度撮像(depth imaging)及び再構築技術において進展はあるが、現存のシステムは、限定された解像度を用いて作業ボリューム(working volume)内における深度の限定された部分を取得できるのみである。しかしながら、使用されるべき複数のシステムは、照明条件及びカメラパラメータから独立した深度記述を実行して、高解像度出力を生成することが期待される。
従来技術において既知の出願である米国特許文献第US6137566号(特許文献1)は、複数のレーザーレーダー受信機のための信号を処理する方法及び装置を開示する。当該装置は、光検出器の出力を、調整可能なしきい値レベルと比較する、複数の比較器を備える。
従来技術において既知の出願である米国特許文献第US7511801号(特許文献2)は、複数の飛行時間システムにおける複数のセンサの自動的なゲイン制御(gain control)のためのシステム及び方法を開示する。上記方法において、露光過度のピクセルと露光不足のピクセルとは比較され、また光の到達(light reaching)に従って、複数のピクセルは少なくとも1つのパラメータを変更することによって調整される。
従来技術において既知の出願である米国特許文献第US2009073419号(特許文献3)は、二重の解像度及び二重の範囲センサ(range sensor)のシステム及び方法を開示する。上記文献において、システムの動作モードにおいて、スキャンされることが望まれる領域の低解像度(low resolution)プロファイルが開発され、高解像度(high resolution)スキャニングがこのプロファイルを用いて実行されることが開示されている。
米国特許第6137566号公報 米国特許第7511801号公報 米国特許出願公開第2009073419号公報
本発明の目的は、画像処理技術において深度解像度を増加させることを可能にする、解像度向上のためのシステム及び方法を実現することにある。
本発明のさらなる目的は、ジンバル(gimbal)又は機械的な部分(mechanical part)を使用することなく、解像度向上のためのシステム及び方法を実現することにある。
本発明のもう1つの目的は、作業ボリュームの異なる複数の部分からくる深度情報が、異なる複数のカメラ積分時間(camera integration time)を用いて組み合わせられる、解像度向上のためのシステム及び方法を実現することにある。
本発明のさらにもう1つの目的は、高解像度において照明条件及びカメラパラメータから独立した深度記述(depth description)を実行する、解像度向上のためのシステム及び方法を実現することにある。
本発明の解像度向上システム(1)は、
画像を取得することが可能な少なくとも1つの撮像ユニット(2)と、
異なる複数の露光時間が、取得されるべき複数の画像のために生成されることを可能にする少なくとも1つの露光生成モジュール(31)と、撮像ユニット(2)のオフセットに関するデータが生成されることを可能にする少なくとも1つのオフセット生成モジュール(32)と、データが受信されて転送されることを可能にする少なくとも1つのデータ転送モジュール(33)と、を有する少なくとも1つのデータ転送ユニット(3)と、
取得された複数の画像が格納されることを可能にする少なくとも1つのデータベース(4)と、
オフセット生成モジュール(32)によって取得されるデータに従って、三次元における撮像ユニット(2)の移動を可能にする少なくとも1つのモーションユニット(5)と、
取得された複数の画像が処理されることを可能にする少なくとも制御ユニット(6)と、
複数の画像の間の複数の差分が格納される、少なくとも1つの勾配バッファ(7)と、
高解像度深度画像が格納される、少なくとも1つの画像バッファ(8)と、
を備える。
本発明の解像度向上方法(100)は、
勾配バッファ(7)及び画像バッファを初期化するステップ(101)と、
露光生成モジュール(31)及びオフセット生成モジュール(32)から受信されるデータを用いて、撮像ユニット(2)から低解像度画像を取得するステップ(102)と、
受信された画像をデータベース(4)に登録するステップ(103)と、
解像度向上処理を実施するステップ(104)と、
最終の画像をユーザに対して表示するステップ(105)と、
を含む。
本発明の好ましい実施形態において、解像度向上処理を実施するステップ(104)は、
先の低解像度画像に従って、撮像ユニット(2)から最後に受信される低解像度画像のサブピクセルモーションを決定するステップ(120)と、
120番目のステップにおいて決定されるモーション量データを用いて、最後の低解像度画像を先の低解像度画像と空間的に並べるステップ(121)と、
120番目のステップにおいて決定されるサブピクセルレベルモーションを用いて、画像バッファ(8)上の最後の画像を先の画像と並べるステップ(122)と、
120番目のステップにおいて推定されたモーション量を用いて、勾配バッファ(7)上の最後の画像を先の画像と並べるステップ(123)と、
ステップ123において取得された並べられた画像における飽和され且つ雑音の多いデータを用いて、荷重関数を決定するステップ(124)と、
勾配バッファ(7)を計算して、バッファ(8)における複数の画像の間の差分を発見するステップ(125)と、
ステップ123において並べられる画像に対するある複数の部分において、ステップ125において発見される複数の差分の平均値を求めるステップ(126)と、
ステップ126において取得された画像を勾配バッファ(7)に格納するステップ(127)と、
ある含有比率で、ステップ121において取得された画像と勾配バッファ(7)における画像とを組み合わせるステップ(128)と、
取得された画像における複数の高周波数成分を抑制するステップ(129)と、
ステップ129において取得された画像を画像バッファ(8)に登録するステップ(130)と、
の複数の下位のステップを含む。
本発明の好ましい実施形態において、画像バッファ(8)における複数の画像の間の差分を発見して勾配バッファ(7)を計算するステップ(125)は、
撮像ユニット(2)から低解像度画像を取得するステップ(150)と、
画像バッファ(8)における画像及びステップ150において取得された画像の測光調整(photometric adjustment)のステップ(151)と、
画像バッファ(8)における画像をステップ150において取得される画像のサイズにダウンスケーリングするステップ(152)と、
ステップ152において取得された画像と、ステップ150において取得された画像との間の深度差分(depth difference)を決定するステップ(153)と、
ステップ153において決定された差分を、再び画像バッファ(8)における画像のサイズにアップスケーリングするステップ(154)と、
ステップ154において取得された画像を、ステップ124において取得された荷重関数と乗算するステップ(155)と、
の複数の下位のステップを含む。
解像度向上システムの概略図である。 時間インデックスを用いた、積分時間変化の1つの可能なシーケンスである。 解像度向上方法のフローチャートである。 解像度向上方法の104番目のステップの複数の下位のステップのフローチャートである。 解像度向上方法の125番目のステップの複数の下位のステップのフローチャートである。
本発明の目的を達成するために開発された解像度向上のためのシステム及び方法は、添付の図面に示される。
本発明の解像度向上システム(1)は、それが起動されるときに画像情報を有しないため、勾配バッファ(7)及び画像バッファ(8)は、値0に初期化される(101)。次いで、モーションユニット(5)はオフセット生成モジュール(32)によって生成されるデータを使用することによって撮像ユニット(2)を移動させて、それと同時に、撮像ユニット(2)は露光生成モジュール(31)によって生成されるデータに従って複数の低解像度画像を取得する(102)。これらの画像はデータベース(4)に記録される(103)。取得される複数の画像は、解像度向上処理を用いて処理される(104)。次いで、解像度向上の処理によって生成される最終の複数の画像は、ユーザに対して表示される(105)。
本発明の好ましい実施形態において、露光生成モジュール(31)及びオフセット生成モジュール(32)から受信されるデータを使用することによって撮像ユニット(2)から低解像度画像を取得するステップ(言い換えると、ステップ102)は、露光生成モジュール(31)及びオフセット生成モジュール(32)によってそれぞれ生成される異なる露光及びオフセット情報を使用することによって反復される。
本発明の好ましい実施形態において、解像度向上処理の実施のステップ(言い換えると、ステップ104)において、以下の複数の処理が実施される。
制御ユニット(6)は、撮像ユニット(2)から受信される最後の低解像度画像と、データベース(4)における最後の登録された低解像度画像とを比較して、サブピクセルレベルにおけるこれらの画像の間のモーション量を決定する(120)。受信された最後の低解像度画像及びデータベース(4)における最後の低解像度画像は、推定されたモーションを使用して並べられる(121)。バッファ(8)に格納される高解像度画像は、ステップ120において決定されるオフセット量情報を使用して先に取得された画像と並べられる(122)。勾配バッファ(7)に格納される画像は、ステップ120において決定されるオフセット量情報を使用して先に取得された画像と並べられる(123)。次いで、ステップ123において取得された画像における飽和され且つ雑音の多い複数の点は抽出されて、これらの品質の低下した複数のピクセルを使用して荷重関数が決定される(124)。次いで、勾配バッファ(7)における画像と、画像バッファ(8)における画像との間の差分は計算される(125)。ステップ125において発見される複数の差分は、ステップ123において並べられる画像に対するある複数の部分において実施される(126)。これらの差分を実施することによって取得された画像は、勾配バッファ(7)に格納される(127)。次いで、勾配バッファ(7)に格納された画像とステップ121において取得された画像とは、ステップサイズ(step size)を用いて組み合わせられる(128)。そして次に、ステップ128において取得された複数の高周波数成分は抑制される(129)。次に、ステップ129において取得された画像は、画像バッファ(8)に登録される(130)。
本発明の好ましい実施形態において、勾配バッファ(7)における画像と、画像バッファ(8)における画像との間の差分を発見するステップ(言い換えると、ステップ125)において、以下の複数のステップが実行される:
最初の低解像度画像は撮像ユニット(2)から取得される(150)。取得された画像は画像バッファ(8)における画像と測光的(photometrically)に並べられる(151)。次いで、画像バッファ(8)に現れる画像は、ステップ150において取得される画像のサイズにダウンスケーリングされる(152)。その後、ステップ152において取得された画像とステップ150において取得された画像との間の深度差分は決定される(153)。取得された深度差分情報(depth difference information)は、再び画像バッファ(8)における画像のサイズにアップスケーリングされる(154)。次いで、画像バッファ(8)における画像のサイズにアップスケーリングされたこれらの差分は、ステップ124において取得される荷重関数と乗算される(155)。
本発明の好ましい実施形態において、ステップ152におけるダウンスケーリング処理は、画像バッファ(8)に現れる画像から取得される各ピクセルの後ろに位置づけられたある数量のピクセルだけ読み飛ばす(スキップ、skipping)することによって実現される。上記実施形態において、読み飛ばされるべきピクセルの数は、画像バッファ(8)における画像サイズと深度差分情報のサイズとの比率である解像度向上係数(resolution enhancement factor)に対応する。
本発明の好ましい実施形態において、ステップ154におけるにアップスケーリング処理は、画像バッファ(8)における画像の比率及び深度差分情報における2つのピクセル間の深度差分情報の複数のサイズと同程度の数量のゼロビット(zero−bit)を挿入することによって実現される。上記処理は、「ゼロ挿入を用いたアップスケーリング(upscaling with zero insertion)」と呼ばれる。
本発明の解像度向上システム(1)は、複数の深度再構築の目的のための画像取得を可能にする、少なくとも1つの撮像ユニット(2)を備える。撮像ユニット(2)が上記複数の画像の取得の間に用いることとなる露光時間は、データ転送ユニット(3)が有する露光生成モジュール(32)によって生成される露光情報に従って決定される。3次元における撮像ユニット(2)のモーションを生成するモーションユニット(5)は、オフセット生成モジュール(32)によって生成される情報を使用することによって、撮像ユニット(2)を移動させる。この手段によって、撮像ユニット(2)は、種々の露光時間で、且つ異なる複数の視点から、複数の画像を取得する。取得される複数の画像は、データベース(4)に記録される。解像度向上方法(100)の複数のステップに従って画像を処理することによって取得される高解像度画像は、スクリーンを介してユーザに対して表示される(図示せず)。
制御ユニット(6)は撮像ユニット(2)によって取得される複数の画像をデータベース(4)に転送して、これらの画像はデータベース(4)に格納される。
本発明の好ましい実施形態において、先の低解像度画像と比較される、撮像ユニット(2)から最後に受信される低解像度画像のモーション量を決定するステップ(言い換えると、ステップ120)において、画像は、ピクセル強度集合(pixel intensity set)に従ったコントラストストレッチング処理(contrast stretching process)が施されて、次いで、ハリスコーナー検出器アルゴリズム(Harris Corner Detector algorithm)などのコーナー(特徴)検出アルゴリズムは、3次元コーナー応答マップ(corner response map)を生成するために、上記画像に対して適用される。この実施形態において、空間の位置付けにおける相関行列は、以下の通り計算される:
Figure 2015510705
ここで、
Figure 2015510705
はそれぞれ、垂直方向及び水平方向における勾配作用素(gradient operator)である。そして次に、コーナー性応答(cornerness response)は公式
Figure 2015510705
に従って計算される。ここにおいて、「k」はコーナー性応答係数(cornerness response coefficient)であり、当該係数kは一般的には近似的に0.04が選択される。ここにおいて、(x,y)はそれぞれ、特性(attribute)のために計算される、点の水平座標及び垂直座標である。また、(m,n)は、特徴点の周囲において取得される窓近傍(ウィンドウ近傍、window neighborhood)(N)内の水平インデックス及び垂直インデックスである。この実施形態において、コントラストストレッチング処理は、以下の公式に従って決定される:
Figure 2015510705
はコントラストストレッチングが適用される画像であり、lは原画像(raw image)であり、そして、fはコントラストストレッチング関数(contrast stretching function)を記号で表す。ここで、当該関数fの傾き(slope)はγによって決定され、中心は[0,1]の範囲内に位置するcで示される。
本発明の好ましい実施形態において、複数のコーナーの類似性(similarity)は、正規化された相互相関公式
Figure 2015510705
を用いて決定される。A及びBは、並べられるべき画像における特徴の周囲で取得されるブロックを表現する。nは複数のブロックの内側のピクセルの数に対応する。
本発明の好ましい実施形態において、少なくとも2つの画像は、撮像ユニット(2)から取得されて、当該複数の画像はデータベース(4)に格納される。制御ユニット(6)は、上記複数の画像のうちの前者を幾何学的基準(geometric reference)として使用して、後者を上記基準と並べることによって残余(residue)を計算する。この実施形態において、複数の画像の平均深度はステップ153において以下の公式に従って計算される:
Figure 2015510705
ここで、iは画像インデックス(image index)であり、l及びlは低解像度画像の空間インデックス(spatial index)であり、n及びnは高解像度画像における空間インデックスであり、
Figure 2015510705
は、正規化された照射値(irradiance value)である。次いで、残余計算(residual computation)は、平均深度情報及び原深度(raw depth)Dを用いることによって、以下の公式に従って実行される。
Figure 2015510705
本発明の好ましい実施形態において、勾配バッファは、公式
Figure 2015510705
に従って、健忘の平均(amnesic mean)を使用して累積される。本公式において、
Figure 2015510705
は、勾配バッファに格納される、結果として得られる勾配値(resultant gradient value)であり、lは値l=λmに従って計算される値である。mは時間インデックス(time index)であり、λは忘却因子(forgetting factor)を決定する健忘の係数(amnesic factor)である。健忘の平均は勾配の経時変化に適合し、複数の勾配が画像平均(image mean)を支配(dominate)しないことを確実にする。
本発明の好ましい実施形態において、ステップ123において並べられる画像に対するある複数の比率においてステップ125において発見される複数の差分の平均値を求めるステップ(言い換えると、ステップ126)において、説明された複数の比率は、従来技術において既知の「最急降下(steepest descent)」又は「共役勾配(conjugate gradient)」の方法を用いて計算されるステップサイズを使用して取得される。この実施形態において、画像バッファは、公式
Figure 2015510705
に従って更新される(言い換えると、ステップ128)。本公式において、αはステップサイズであり、xm+1は時刻(m+1)における超解像度画像(super−resolution image)であり、xは時刻mにおける超解像度画像である。
本発明の好ましい実施形態において、取得された画像における複数の高周波数成分を押し下げるステップ(言い換えるとステップ129)において、抑制処理は、以下の公式に従って実現される。
Figure 2015510705
本公式において、qは照射値であり、n1及びn2は平面座標であり、αはカメラ積分時間(camera integration time)であり、そしてfは、ステップ124において計算される加重関数をも包含して雑音の多い且つ飽和した複数のセンサ値を抑制する複数の光電気回路関数(optoelectric circuit function)である。
解像度向上のための、本発明のシステム(1)及び方法(100)の幅広い種々の実施形態を開発することが可能である。本発明は、本明細書において説明される複数の例に限定されることはできず、本発明は本質的に特許請求の範囲に従う。
図面に見られる複数の部分はそれぞれ参照符号が与えられ、これらの符号は以下を参照する。
画像取得の間に使用される異なる複数の露光時間(exposure time)は「積分時間(integration time)」とも呼ばれる。
1. 解像度向上システム
2. 撮像ユニット
3. データ転送ユニット
31.露光生成モジュール
32.オフセット生成モジュール
33.データ転送モジュール
4. データベース
5. モーションユニット
6. 制御ユニット
7. 勾配バッファ
8. 画像バッファ
従来技術において既知の出願である米国特許文献第US2009073419号(特許文献3)は、二重の解像度及び二重の範囲センサ(range sensor)のシステム及び方法を開示する。上記文献において、システムの動作モードにおいて、スキャンされることが望まれる領域の低解像度(low resolution)プロファイルが開発され、高解像度(high resolution)スキャニングがこのプロファイルを用いて実行されることが開示されている。
“Depth Map Super Resolution”(Gevrekci et al)なるタイトルの論文と、“Superresolution under Photometric Diversity of Images”(Gevrekci et al)なるタイトルの論文と、“High resolution and High Dynamic Range Image Reconstruction from Differently Exposed Images” (Nakai et al)なるタイトルの論文は従来技術において既知であり、低解像度画像を使用することによって複数の高解像度画像を取得することに関して開示している。

Claims (16)

  1. 勾配バッファ(7)及び画像バッファを初期化するステップ(101)と、
    露光生成モジュール(31)及びオフセット生成モジュール(32)から受信されるデータを用いて、撮像ユニット(2)から低解像度画像を取得するステップ(102)と、
    受信された画像をデータベース(4)に記録するステップ(103)と、
    解像度向上処理を実施するステップ(104)と、
    最終の画像をユーザに対して表示するステップ(105)と、
    の複数のステップによって特徴付けられる、低解像度において取得される画像を高解像度にすることを可能にする解像度向上方法(100)。
  2. 解像度向上処理を実施するステップ(104)は、
    先の低解像度画像に関して、前記撮像ユニット(2)から最後に受信される低解像度画像のモーション量を決定するステップ(120)と、
    120番目のステップにおいて推定されたモーション量を用いて、最後の低解像度画像を先の低解像度画像と並べるステップ(121)と、
    120番目のステップにおいて推定されたモーションを用いて、前記画像バッファ(8)上の最後の画像を先の画像と並べるステップ(122)と、
    120番目のステップにおいて推定されたモーションを用いて、前記勾配バッファ(7)上の最後の画像を先の画像と並べるステップ(123)と、
    ステップ123において取得された並べられた画像における飽和され且つ雑音の多いデータを用いて、荷重関数を決定するステップ(124)と、
    前記画像バッファ(8)における複数の画像の間の差分を発見して、前記勾配バッファ(7)を計算するステップ(125)と、
    ステップ123において並べられた画像に対するある複数の部分において、ステップ125において発見される前記複数の差分の平均値を求めるステップ(126)と、
    ステップ126において取得された画像を勾配バッファ(7)に格納するステップ(127)と、
    ある含有比率で、ステップ121において取得された画像と、前記勾配バッファ(7)における画像と、を組み合わせるステップ(128)と、
    前記取得された画像における複数の高周波数成分を抑制するステップ(129)と、
    ステップ129において取得された画像を前記画像バッファ(8)に登録するステップ(130)と、
    の複数の下位のステップを備える、
    ことを特徴とする、請求項1記載の解像度向上方法(100)。
  3. ステップ126において取得された画像を前記勾配バッファ(7)に格納するステップ(言い換えると、ステップ127)において、前記勾配バッファは公式
    Figure 2015510705
    に従って更新される、
    ことを特徴とする請求項2記載の解像度向上方法(100)。
  4. 抑制及び測光正規化処理は、前記取得された画像における複数の高周波数成分を抑制するステップ(言い換えると、ステップ129)において、
    Figure 2015510705
    に従って実現される、
    ことを特徴とする請求項2又は3記載の解像度向上方法(100)。
  5. 前記画像バッファ(8)における画像と前記勾配バッファ(7)における画像との間の差分を発見するステップ(125)は、
    前記撮像ユニット(2)から低解像度画像を取得するステップ(150)と、
    ステップ150において取得された画像に関する、前記画像バッファ(8)における画像のトーン調整(tonal adjustment)のステップ(151)と、
    前記画像バッファ(8)における画像をステップ150において取得される画像のサイズにダウンスケーリングするステップ(152)と、
    ステップ152において取得された画像と、ステップ150において取得された画像との間の深度差分を決定するステップ(153)と、
    ステップ153において決定された差分を、再び前記画像バッファ(8)における画像のサイズにアップスケーリングするステップ(154)と、
    ステップ154において取得された画像を、ステップ124において取得された荷重関数と乗算するステップ(155)と、
    の複数の下位のステップを備えることを特徴とする、請求項2〜4のうちのいずれか一項記載の解像度向上方法(100)。
  6. 前記露光生成モジュール(31)及び前記オフセット生成モジュール(32)から受信されるデータを用いて前記撮像ユニット(2)から低解像度画像を取得するステップ(言い換えると、ステップ102)は、前記露光生成モジュール(31)及び前記オフセット生成モジュール(32)によって生成される、異なる露光及びオフセット情報を用いて反復される、
    ことを特徴とする、請求項1〜5のうちのいずれか一項記載の解像度向上方法(100)。
  7. 前記先の低解像度画像に関して、前記撮像ユニット(2)から最後に受信される低解像度画像のモーション量を決定するステップ(言い換えると、ステップ120)において、前記画像はピクセル強度集合に従ってコントラストストレッチング処理が施される、
    ことを特徴とする請求項2〜6のうちのいずれか一項記載の解像度向上方法(100)。
  8. 前記コントラストストレッチング処理は、
    Figure 2015510705
    に従って実行される、
    ことを特徴とする請求項7記載の解像度向上方法(100)。
  9. コーナー検出アルゴリズムは、測光変動(photometric variation)に対して不変な3次元コーナー応答マップを生成するために、前記取得された画像に対して適用される、
    ことを特徴とする、請求項2〜8のうちのいずれか一項記載の解像度向上方法(100)。
  10. 複数のコーナーの類似性は、
    Figure 2015510705
    に従って計算される、
    ことを特徴とする、請求項9記載の解像度向上方法(100)。
  11. ステップ152において取得された画像と、ステップ150において取得された画像との間の深度差分を決定するステップ(言い換えると、ステップ153)において、複数の画像の間の差分は、前記複数の画像の平均深度情報を計算して、計算された差分に従って残余計算を実行することで決定される、ことを特徴とする請求項5〜10のうちのいずれか一項記載の解像度向上方法(100)。
  12. 平均深度計算は、公式
    Figure 2015510705
    に従って実行される、
    ことを特徴とする請求項11記載の解像度向上方法(100)。
  13. 残余計算は、公式
    Figure 2015510705
    に従って実行される、
    ことを特徴とする請求項11又は12記載の解像度向上方法(100)。
  14. 画像を取得することが可能な少なくとも1つの撮像ユニット(2)と、
    異なる複数の露光時間が、取得されるべき複数の画像のために生成されることを可能にする少なくとも1つの露光生成モジュール(31)と、前記撮像ユニット(2)のオフセットに関するデータが生成されることを可能にする少なくとも1つのオフセット生成モジュール(32)と、前記データが受信されて転送されることを可能にする少なくとも1つのデータ転送モジュール(33)と、を有する少なくとも1つのデータ転送ユニット(3)と、
    取得された複数の画像が格納されることを可能にする少なくとも1つのデータベース(4)と、
    オフセット生成モジュール(32)によって取得されたデータに従って、三次元における前記撮像ユニット(2)の移動を可能にする少なくとも1つのモーションユニット(5)と、
    取得された複数の画像が処理されることを可能にする少なくとも制御ユニット(6)と、を備え、
    複数の画像の間の複数の差分が格納される、少なくとも1つの勾配バッファ(7)
    によって特徴付けられる解像度向上システム(1)。
  15. 高解像度深度画像が格納される、少なくとも1つの画像バッファ(8)
    によって特徴付けられる請求項14記載の解像度向上システム(1)。
  16. 請求項1〜13のうちのいずれか一項記載の方法に従って動作する制御ユニット(6)
    によって特徴付けられる請求項14又は15記載の解像度向上システム(1)
JP2014545370A 2011-12-12 2011-12-12 解像度向上のためのシステム及び方法 Pending JP2015510705A (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/IB2011/055614 WO2013088197A1 (en) 2011-12-12 2011-12-12 A system and method for resolution enhancement

Publications (1)

Publication Number Publication Date
JP2015510705A true JP2015510705A (ja) 2015-04-09

Family

ID=45563459

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014545370A Pending JP2015510705A (ja) 2011-12-12 2011-12-12 解像度向上のためのシステム及び方法

Country Status (5)

Country Link
US (1) US9262806B2 (ja)
EP (1) EP2727077A1 (ja)
JP (1) JP2015510705A (ja)
KR (1) KR101602747B1 (ja)
WO (1) WO2013088197A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9906717B1 (en) * 2016-09-01 2018-02-27 Infineon Technologies Ag Method for generating a high-resolution depth image and an apparatus for generating a high-resolution depth image

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001012912A (ja) * 1999-06-29 2001-01-19 Fuji Photo Film Co Ltd 視差画像撮像装置、視差画像処理装置、視差画像撮像方法、及び視差画像処理方法
US6285804B1 (en) * 1998-12-21 2001-09-04 Sharp Laboratories Of America, Inc. Resolution improvement from multiple images of a scene containing motion at fractional pixel values
JP2006085185A (ja) * 2005-10-06 2006-03-30 Seiko Epson Corp 画像表示装置、画像表示方法及び画像表示プログラム
JP2010251878A (ja) * 2009-04-13 2010-11-04 National Institute Of Information & Communication Technology 奥行推定装置、奥行推定方法および奥行推定プログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6137566A (en) 1999-02-24 2000-10-24 Eoo, Inc. Method and apparatus for signal processing in a laser radar receiver
US7379163B2 (en) 2005-02-08 2008-05-27 Canesta, Inc. Method and system for automatic gain control of sensors in time-of-flight systems
US7808617B2 (en) 2007-09-17 2010-10-05 Quality Vision International, Inc. Dual resolution, dual range sensor system and method
US7852461B2 (en) * 2007-11-15 2010-12-14 Microsoft International Holdings B.V. Dual mode depth imaging

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6285804B1 (en) * 1998-12-21 2001-09-04 Sharp Laboratories Of America, Inc. Resolution improvement from multiple images of a scene containing motion at fractional pixel values
JP2001012912A (ja) * 1999-06-29 2001-01-19 Fuji Photo Film Co Ltd 視差画像撮像装置、視差画像処理装置、視差画像撮像方法、及び視差画像処理方法
JP2006085185A (ja) * 2005-10-06 2006-03-30 Seiko Epson Corp 画像表示装置、画像表示方法及び画像表示プログラム
JP2010251878A (ja) * 2009-04-13 2010-11-04 National Institute Of Information & Communication Technology 奥行推定装置、奥行推定方法および奥行推定プログラム

Also Published As

Publication number Publication date
US20140193041A1 (en) 2014-07-10
WO2013088197A1 (en) 2013-06-20
KR101602747B1 (ko) 2016-03-11
KR20140063609A (ko) 2014-05-27
US9262806B2 (en) 2016-02-16
EP2727077A1 (en) 2014-05-07

Similar Documents

Publication Publication Date Title
JP5909540B2 (ja) 画像処理表示装置
US9361680B2 (en) Image processing apparatus, image processing method, and imaging apparatus
JP5932476B2 (ja) 画像処理装置、撮像装置、距離計測方法および距離計測プログラム
EP2704423B1 (en) Image processing apparatus, image processing method, and image processing program
JP5374119B2 (ja) 距離情報取得装置、撮像装置、及びプログラム
KR101505352B1 (ko) 하전 입자 현미경 장치 및 화상 촬상 방법
JP5978949B2 (ja) 画像合成装置及び画像合成用コンピュータプログラム
JP2007199633A (ja) 合焦検出装置
US11282176B2 (en) Image refocusing
JP6071257B2 (ja) 画像処理装置及びその制御方法、並びにプログラム
US9843711B2 (en) Image processing device, image processing method, and image processing program
JP2017118296A (ja) 撮像装置、画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体
US8433187B2 (en) Distance estimation systems and method based on a two-state auto-focus lens
JPWO2012176556A1 (ja) 対応点探索装置、および距離測定装置
US20190052793A1 (en) Apparatus for generating a synthetic 2d image with an enhanced depth of field of an object
KR101875532B1 (ko) 계층적 스테레오 매칭 장치 및 방법
JP2011164905A (ja) 対応点探索装置
JP6604908B2 (ja) 画像処理装置、その制御方法、および制御プログラム
JP2016208075A (ja) 画像出力装置およびその制御方法、撮像装置、プログラム
JP5431501B2 (ja) 画像処理装置、及びその方法
JP2015510705A (ja) 解像度向上のためのシステム及び方法
JP2018160024A (ja) 画像処理装置、画像処理方法及びプログラム
JP2009187138A (ja) 対応点探索装置
JP6639155B2 (ja) 画像処理装置及び画像処理方法
JP2016109489A (ja) 画像処理装置、画像処理方法、プログラム、及びプログラムを記憶した記憶媒体

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150731

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150825

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20160209