JP7111528B2 - 超解像度画像を生成するための画素の較正 - Google Patents

超解像度画像を生成するための画素の較正 Download PDF

Info

Publication number
JP7111528B2
JP7111528B2 JP2018120682A JP2018120682A JP7111528B2 JP 7111528 B2 JP7111528 B2 JP 7111528B2 JP 2018120682 A JP2018120682 A JP 2018120682A JP 2018120682 A JP2018120682 A JP 2018120682A JP 7111528 B2 JP7111528 B2 JP 7111528B2
Authority
JP
Japan
Prior art keywords
pixel
light intensity
image
images
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018120682A
Other languages
English (en)
Other versions
JP2019029999A (ja
Inventor
キース・ディー・ハンフェルド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Boeing Co
Original Assignee
Boeing Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Boeing Co filed Critical Boeing Co
Publication of JP2019029999A publication Critical patent/JP2019029999A/ja
Application granted granted Critical
Publication of JP7111528B2 publication Critical patent/JP7111528B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/48Increasing resolution by shifting the sensor relative to the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • H04N25/671Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • H04N25/671Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
    • H04N25/672Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction between adjacent sensors or output registers for reading a single image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本開示は、一般に画像取得に関し、具体的には、移動に基づく超解像度画像取得に関する。
カメラシステムは、人工衛星、無人航空機(Unmanned Aerial Vehicles、UAV)並びに、諜報、偵察及び調査(Intelligence,Surveillance,and Reconnaissance、ISR)の目的のために使用されるその他の偵察プラットフォームの重要な構成要素である。近年、カメラシステムの解像度を向上させるための技術が、軍事用及び民生用環境の両方における使用のための用途に統合されることが多くなっている。解像度向上技術は、これらの用途にわたって様々な形で実現されうる。例えば、コンピュータソフトウェアを介して実装される技術もあれば、使用される物理的光学系から得られうる、その他の解像度向上もある。
しかし、解像度向上技術は、デジタルカメラシステムに限られうる。具体的に、デジタルカメラは、電荷結合素子(Charge Coupled Device、CCD)またはその他の光検出器アレイによって、ある期間にわたって受け取られた光子を検出することによってデジタル画像を取得しうる。標準的なCCDカメラデータの解像度は、単にCCDカメラの個別の画素の大きさ及び数によって制限される。
超解像度と呼ばれる計算技術は、物理的な制限を超えてCCDカメラの解像度を向上させるために使用されうる。超解像度技術では、もともと取得された画像の解像度よりも高い解像度の画像が生成されうる。より具体的には、超解像度技術は、複数のより低い解像度の画像を互いに比較し、これらの低解像度画像から、より解像度の高い画像を統計的に生成する。
米国特許第9430814号明細書
移動に基づく超解像度処理技術によって超解像度画像を生成するための、改善されたカメラシステムが、2016年8月30日に発行された、「移動及び音波に基づく超解像度」と題する特許文献1に開示されており、その内容は参照により本明細書に組み込まれる。本開示は、移動に基づく超解像度画像処理において伝搬収差を生じうる画像を撮影された風景における画素間感度差及び移動する物体を含む複数の障害に対処する改善を目的とする。
本開示の例示的な実装例によれば、検出器アレイの画素は、個別の検出器のいずれかの感度差を補償するために、参照画素に対して較正される。いくつかの例において、この構成は、検出器アレイの焦点面が、画像のいくつかのサブセットに対して1画素/検出器幅だけ少なくとも1つの方向に動かされる間、風景の画像を取得することを含む。そのため、画像のうちいくつかでは、複数の検出器が、画像のうち別の画像における別の検出器と同じ風景の部分から入射する光を測定する。そして、これは、いずれかの画素間(デバイス間)感度差を補償するために使用される。画素の感度差がゆっくりと変化するのみであるか、またはこれが2次元でなされる場合には、画素の感度差は、風景内の動きを決定するために冗長な画像から取り除くことができる。風景内で検出された動きは、一連の画像のそれぞれにおける影響を決定するために内挿可能であり、これは被写体ぶれを取り除くこととなる。
そのため本開示は、限定することなく、以下の例示的な実装例を含む。
いくつかの例示的な実装例は、超解像度画像を生成するためのカメラシステムであって、カメラシステムが、レンズと、レンズを通して焦点面に集束された風景の画像を取得するように構成された検出器アレイであって、検出器アレイが、風景の各部分に対して画素を提供するように構成された個別の検出器のアレイを含み、検出器アレイが、レンズまたは検出器アレイ及びそれによって焦点面が、検出器アレイの物理的構成によって定義された水平方向または垂直方向に沿って個別の検出器の長さだけ動かされる移動量で、画像を取得するように構成された、検出器アレイと、画像内の画素の光強度を決定し、画素を、光強度に基づいて画素のうちの参照画素に対して較正し、それによって個別の検出器のいずれかの感度差を補償するように構成された処理ユニットと、を含み、画素の少なくともいくつかのうちの各画素について、画素を較正するように構成された処理ユニットが、少なくとも、風景の一部が画像のうちの1つの画像における参照画素及び画像のうちの別の画像における画素について同じであるような、画像のうちの1つの画像における参照画素の光強度と、画像のうちの別の画像における画素の光強度との比較を行うことと、それに基づいて、少なくとも、参照画素の光強度と画素の光強度とが異なる場合において、画素の光強度の調整のために増幅因子を決定することであって、増幅因子が参照画素の光強度の、画素の光強度に対する比であるか、または比から決定される、増幅因子を決定することと、を行うように構成されることを含む、カメラシステムを提供する。
前述の、もしくは任意の後続の例示的な実装例、またはそれらの任意の組合せのカメラシステムのいくつかの例示的な実装例において、ある移動量ごとに画像を取得するように構成された検出器アレイが、少なくとも2つの移動量ごとに画像を取得するように構成されること、焦点面が水平方向に沿って個別の検出器の長さだけ移動される少なくとも1つの移動量及び、焦点面が垂直方向に沿って個別の検出器の長さだけ移動される少なくとも1つの移動量を含むこと、を含む。
任意の前述の、もしくは任意の後続の例示的な実装例、またはそれらの任意の組合せのカメラシステムのいくつかの例示的な実装例において、画素のうち少なくとも別のいくつかの画素のそれぞれについて、別の画素を較正するように構成された処理ユニットが、少なくとも、風景の一部が画像のうちの1つの画像における画素及び画像のうち別の画像における別の画素について同じであるような、画像のうちの1つの画像における画素の光強度の、画像のうちの別の画像における別の画素の光強度に対する比を決定することと、別の画素の光強度の調整のための増幅因子を決定することであって、増幅因子が、画素の光強度の調整のための増幅因子と、画素の光強度の、別の画素の光強度に対する比との積である、増幅因子を決定することと、を行うように構成されることを含む。
任意の前述の、もしくは任意の後続の例示的な実装例、またはその任意の組合せのカメラシステムのいくつかの例示的な実装例において、比較を実行するように構成された処理ユニットが、風景の一部が参照画素及び画素について同じであるような、画像の各対における参照画素の光強度と画素の光強度との比較を実行するように構成されることを含み、増幅因子を決定するように構成された処理ユニットが、画像の各対についての参照画素の光強度の画素の光強度に対する比の平均を決定するように構成されることを含む。
任意の前述の、もしくは任意の後続の例示的な実装例、またはその任意の組合せのカメラシステムのいくつかの例示的な実装例において、画素のうちいずれかの特定の画素について、処理ユニットが、風景の一部が画像のうち1つの画像における参照画素及び画像のうち別の画像における特定の画素について同じであるような、画像のうち1つの画像における参照画素の光強度と、画像のうち別の画像における特定の画素の光強度との比較を実行することと、参照画素の光強度と特定の画素の光強度とが、不良画素を示す所定の閾値よりも大きい量だけ異なるような場合において、特定の画素を不良画素として識別することと、を行うように構成される。
任意の前述の、もしくは後続の例示的な実装例、またはその任意の組合せのカメラシステムのいくつかの例示的な実装例において、カメラシステムはさらに、レンズまたは検出器アレイに結合され、レンズまたは検出器アレイ及びそれにより焦点面を動かすように構成された、トランスデューサと、トランスデューサと通信可能であり、レンズまたは検出器アレイを動かすためにトランスデューサを制御するように構成された、制御ユニットと、をさらに含む。
任意の前述の、もしくは任意の後続の例示的な実装例、またはその任意の組合せのカメラシステムのいくつかの例示的な実装例において、カメラシステムが、画素の較正後に超解像度画像を生成するように構成され、トランスデューサが、レンズまたは検出器アレイ及びそれにより焦点面を、検出器アレイが複数の画像を取得するように構成された所定の期間にわたって動かすように構成され、制御ユニットが、画素をサブ画素に分割し、所定の期間の間、サブ画素の長さの移動量ごとにレンズまたは検出器アレイを動かすようにトランスデューサを制御するように構成され、処理ユニットが、複数の画像から、画素の光強度を、画素の少なくともいくつかの各画素について増幅因子を使用して決定し、画素の光強度からサブ画素の光強度を決定し、サブ画素の光強度をまとめて単一画像を生成するように構成される。
任意の前述の、もしくは任意の後続の例示的な実装例、またはその任意の組合せのカメラシステムのいくつかの例示的な実装例において、複数の画像が、最初の画像、最後の画像及びそれらの間の少なくとも1つの画像を有する一連の画像を含み、処理ユニットがさらに、少なくとも、風景の一部が、最初の画像及び最後の画像の少なくとも一対の画素について同じであるような、最初の画像及び最後の画像における少なくとも一対の画素の光強度を比較することを実行するように構成され、少なくとも一対の画素の光強度が、風景の動きを示す所定の閾値よりも大きい量だけ異なるような少なくとも1つの場合において、画素の光強度を決定するように構成された処理ユニットが、最初の画像と最後の画像との間の少なくとも1つの画像における画素の光強度を、最初の画像及び最後の画像内の画素の光強度から内挿することによって決定するように構成されることを含む。
任意の前述の、もしくは後続の例示的な実装例、またはその任意の組合せのカメラシステムのいくつかの例示的な実装例において、サブ画素の長さが、画素の数分の一に対応し、少なくとも1つの画像における画素の光強度を決定するように構成された処理ユニットが、少なくとも、少なくとも1つの画像における風景の各部分について、光強度を、最初の画像及び最後の画像における風景の各部分についての画素の光強度に基づいて内挿することと、少なくとも1つの画像における画素の風景の各部分の数分の1に対応する風景の各部分の光強度の数分の1に基づいて、少なくとも1つの画像における画素の光強度を決定することと、を行うように構成されることを含む。
いくつかの例示的な実装例は、超解像度画像を生成する方法であって、方法が、検出器アレイによって、レンズを通して焦点面に集束された風景の画像を取得する段階であって、検出器アレイが、風景の各部分についての画素を提供する個別の検出器のアレイを含み、検出器アレイが、レンズまたは検出器アレイ及びそれにより焦点面が、検出器アレイの物理的構成によって定義される水平方向または垂直方向に沿って個別の検出器の長さだけ移動される移動量ごとに画像を取得する、画像を取得する段階と、処理ユニットによって、画像における画素の光強度を決定し、光強度に基づいて、画素を、画素のうち参照画素に対して較正し、それによって個別の検出器のいずれかの感度差を補償する段階と、を含み、画素のうち少なくともいくつかの画素の各画素について、画素の較正が、少なくとも、風景の一部が画像のうち1つの画像における参照画素及び画像のうち別の画像における画素について同じであるような、画像のうち1つの画像の参照画素の光強度と、画像のうち別の画像における画素の光強度との比較を実行する段階と、それに基づいて、少なくとも、参照画素の光強度と、画素の光強度とが異なるような場合に、画素の光強度の調整のための増幅因子を決定する段階であって、増幅因子が、参照画素の光強度の、画素の光強度に対する比であるか、またはその比から決定される、増幅因子を決定する段階と、を含む、方法を提供する。
任意の前述の、もしくは任意の後続の例示的な実装例、またはその任意の組合せの方法のいくつかの例示的な実装例において、移動量ごとに画像を取得する段階が、少なくとも2つの移動量において画像を取得することを含み、移動量が、焦点面が水平方向に沿って個別の検出器の長さだけ移動される少なくとも1つの移動量と、焦点面が垂直方向に沿って個別の検出器の長さだけ移動される少なくとも1つの移動量と、を含む。
任意の前述の、もしくは任意の後続の例示的な実装例、またはその任意の組合せの方法のいくつかの例示的な実装例において、画素のうち少なくとも別のいくつかの画素の別の画素のそれぞれについて、別の画素を較正する段階が、少なくとも、風景の一部が画像のうち1つの画像の画素及び画像のうち別の画像の別の画素について同じであるような、画像のうち1つの画像における画素の光強度の、画像のうち別の画素の光強度に対する比を決定する段階と、別の画素の光強度の調整のための増幅因子を決定する段階であって、増幅因子が、画素の光強度の調整のための増幅因子と、画素の光強度の、別の画素の光強度に対する比との積である、増幅因子を決定する段階と、を含む。
任意の前述の、もしくは任意の後続の例示的な実装例、またはその任意の組合せの方法のいくつかの例示的な実装例において、比較を実行する段階が、風景の一部が参照画素及び画素について同じであるような、画像の各対における参照画素の光強度と画素の光強度との比較を実行する段階を含み、増幅因子を決定する段階が、画像の各対について、参照画素の光強度の、画素の光強度に対する比の平均を決定する段階を含む。
任意の前述の、もしくは任意の後述の例示的な実装例、またはその任意の組合せの方法のいくつかの例示的な実装例において、画素のうちいずれかの特定の画素について、方法が、風景の一部が、画像のうち1つの画像における参照画素及び、画像のうち別の画像における特定の画素について同じであるような、画像のうち1つの画像における参照画素の光強度と、画像のうち別の画像における特定の画素の光強度との比較を実行する段階と、参照画素の光強度と特定の画素の光強度とが、不良画素を示す所定の閾値よりも大きな値だけ異なるような例において、特定の画素を不良画素として識別する段階を含む。
任意の前述の、もしくは任意の後続の例示的な実装例、またはその任意の組合せの方法のいくつかの例示的な実装例において、方法はさらに、レンズまたは検出器アレイに結合されたトランスデューサによって、レンズまたは検出器アレイ及びそれにより焦点面を動かす段階と、トランスデューサと通信可能である制御ユニットによって、レンズまたは検出器アレイを動かすために、トランスデューサを制御する段階と、をさらに含む。
任意の前述の、もしくは任意の後続の例示的な実装例、またはその任意の組合せの方法のいくつかの例示的な実装例において、方法はさらに、画素の較正後に超解像度画像を生成する段階と、トランスデューサによって、レンズまたは検出器アレイ及びそれにより焦点面を、検出器アレイが複数の画像を取得する所定の期間にわたって動かす段階と、制御ユニットによって、画素をサブ画素に分割し、所定の期間の間、サブ画素の長さの移動量ごとにレンズまたは検出器アレイを動かすようにトランスデューサを制御する段階と、処理ユニットによって、複数の画像から、画素の光強度を、画素の少なくともいくつかの各画素について増幅因子を使用して決定し、画素の光強度からサブ画素の光強度を決定し、サブ画素の光強度をまとめて単一画像を生成する段階と、をさらに含む。
任意の前述の、もしくは任意の後続の例示的な実装例、またはその任意の組合せの方法のいくつかの例示的な実装例において、複数の画像が、最初の画像、最後の画像及びそれらの間の少なくとも1つの画像を有する一連の画像を含み、方法がさらに、少なくとも、風景の一部が、最初の画像及び最後の画像の少なくとも一対の画素について同じであるような、最初の画像及び最後の画像における少なくとも一対の画素の光強度を比較することを実行する段階と、少なくとも一対の画素の光強度が、風景の動きを示す所定の閾値よりも大きい量だけ異なるような少なくとも1つの場合において、画素の光強度を決定する段階が、最初の画像と最後の画像との間の少なくとも1つの画像における画素の光強度を、最初の画像及び最後の画像内の画素の光強度から内挿することによって決定する段階と、を含む。
任意の前述の、もしくは任意の後続の例示的な実装例、またはその任意の組合せの方法のいくつかの例示的な実装例において、サブ画素の長さが、画素の数分の一に対応し、少なくとも1つの画像における画素の光強度を決定する段階が、少なくとも、少なくとも1つの画像における風景の各部分について、光強度を、最初の画像及び最後の画像における風景の各部分についての画素の光強度に基づいて内挿する段階と、少なくとも1つの画像における画素の風景の各部分の数分の1に対応する風景の各部分の光強度の数分の1に基づいて、少なくとも1つの画像における画素の光強度を決定する段階と、を含む。
いくつかの例示的な実装例は、超解像度画像を生成するためのコンピュータ可読保存媒体であって、コンピュータ可読保存媒体が非一時的であり、内部に保存されたコンピュータ可読プログラムコード部分を有し、コンピュータ可読プログラムコード部分が、処理ユニットによる実行に応じて、装置に、少なくとも、レンズを通して焦点面に集束された画像を取得するように構成された検出器アレイによる風景の画像における画素の光強度を決定する段階であって、検出器アレイが、風景の各部分についての画素を提供するように構成された個別の検出器のアレイを含み、検出器アレイが、レンズまたは検出器アレイ及びそれにより焦点面が、検出器アレイの物理的構成によって定義される水平方向または垂直方向に沿って個別の検出器の長さだけ移動される移動量ごとに画像を取得するように構成された、画素の光強度を決定する段階と、光強度に基づいて、画素を、画素のうち参照画素に対して較正し、それによって個別の検出器のいずれかの感度差を補償する段階と、を含み、画素のうち少なくともいくつかの各画素について、画素の較正を行うようにされる装置が、少なくとも、風景の一部が画像のうち1つの画像における参照画素及び画像のうち別の画像における画素について同じであるような、画像のうち1つの画像の参照画素の光強度と、画像のうち別の画像における画素の光強度との比較を実行することと、それに基づいて、少なくとも、参照画素の光強度と、画素の光強度とが異なるような場合に、画素の光強度の調整のための増幅因子を決定することであって、増幅因子が、参照画素の光強度の、画素の光強度に対する比であるか、またはその比から決定される、増幅因子を決定することと、を行うようにされることを含む、コンピュータ可読保存媒体を提供する。
任意の前述の、もしくは任意の後続の例示的な実装例、またはその任意の組合せのコンピュータ可読保存媒体のいくつかの例示的な実装例において、画素のうち少なくとも別のいくつかの画素の別の画素のそれぞれについて、別の画素を較正するようにされる装置が、少なくとも、風景の一部が画像のうち1つの画像の画素及び画像のうち別の画像の別の画素について同じであるような、画像のうち1つの画像における画素の光強度の、画像のうち別の画像における別の画素の光強度に対する比を決定することと、別の画素の光強度の調整のための増幅因子を決定する段階であって、増幅因子が、画素の光強度の調整のための増幅因子と、画素の光強度の、別の画素の光強度に対する比との積である、増幅因子を決定することと、を行うようにされることを含む。
任意の前述の、もしくは任意の後続の例示的な実装例、またはその任意の組合せのコンピュータ可読保存媒体のいくつかの例示的な実装例において、比較を実行するようにされる装置が、風景の一部が参照画素及び画素について同じであるような、画像の各対における参照画素の光強度と画素の光強度との比較を実行するようにされることを含み、増幅因子を決定するようにされる装置が、画像の各対について、参照画素の光強度の、画素の光強度に対する比の平均を決定するようにされることを含む。
任意の前述の、もしくは任意の後続の例示的な実装例、またはその任意の組合せのコンピュータ可読保存媒体のいくつかの例示的な実装例において、画素のうちいずれかの特定の画素について、装置が、風景の一部が、画像のうち1つの画像における参照画素及び、画像のうち別の画像における特定の画素について同じであるような、画像のうち1つの参照画素の光強度と、画像のうち別の画像における特定の画素の光強度との比較を実行することと、参照画素の光強度と特定の画素の光強度とが、不良画素を示す所定の閾値よりも大きな値だけ異なるような例において、特定の画素を不良画素として識別することと、を行うようにされる。
本開示のこれらの、並びにその他の特徴、態様及び利点は、以下の詳細な説明を、以下に簡単に説明される添付した図面とともに読むことによって明らかになるであろう。本開示は、本開示において記述される2つ、3つ、4つまたはそれ以上の特徴または要素の任意の組合せを、そのような特徴または要素が、本明細書に説明された具体例の実装例において明示的に組み合わせられているか否か、または記載されているか否かにかかわらず、含む。本開示の任意の分離可能な特徴または要素が、本開示の内容が明確にそうでないと指示しているのでなければ、その態様及び例示的な実装例のいずれかにおいて、結合可能であるとして示されるべきであるものとして、本開示は総体的に読まれることを意図している。
したがって、この発明の概要は、本開示のいくつかの態様の基本的な理解を提供できるように、いくつかの例示的な実装例をまとめる目的で提供されるものに過ぎないことは了解されるであろう。そのため、前述の例示的な実装例は、単なる例であり、いかなる態様においても本開示の範囲または思想を限定するものと解釈されるべきでないことは了解されるであろう。その他の例示的な実装例、態様及び利点は、例としていくつかの説明された例示的な実装例の原理を示す添付図面とともに、以下の詳細な説明から明らかになるであろう。
そのため、概略的に本開示の例示的な実装例が説明されたが、ここで、添付図面を参照する。これらの図面は必ずしも縮尺通りに描かれていない。
本開示の1つの例示的な実装例に従うカメラシステムの概略図である。 図1のカメラシステムの検出器アレイの概略図である。 図1のカメラシステムに関するターゲット画像の概略図である。 第1の位置において焦点面上に投影されたターゲット画像の焦点と中心を位置合わせされた図2の検出器アレイの概略図である。 図4の第1の位置において、検出器アレイの個別の検出器によって検出された光強度の概略図である。 図4の第1の位置において、検出器アレイによって取得された第1の画像の概略図である。 図4の第1の位置から第2の位置へ移動した検出器アレイの概略図である。 図7の第2の位置において、検出器アレイの個別の検出器によって検出された光強度の概略図である。 図7の第2の位置において、検出器アレイによって取得された第2の画像の概略図である。 図7の第2の位置から第3の位置へ移動した検出器アレイの概略図である。 図10の第3の位置において、検出器アレイの個別の検出器によって検出された光強度の概略図である。 図10の第3の位置において、検出器アレイによって取得された第3の画像の概略図である。 図10の第3の位置から第4の位置へ移動した検出器アレイの概略図である。 図13の第4の位置において、検出器アレイの個別の検出器によって検出された光強度の概略図である。 図13の第4の位置において、検出器アレイによって取得された第4の画像の概略図である。 別の例示的な実装例に従う、図6、9、12及び15の第1、第2、第3及び第4の画像において実行されるインターリービング処理の概略図である。 別の例示的な実装例に従う、線形代数によって処理するための参照アレイの概略図である。 別の例示的な実装形態に従う、図6、9、12及び15の画像に対して図17の参照アレイを適用する概略図である。 図18の線形代数の適用から得られた解のアレイの概略図である。 図19の解のアレイから得られた単一の超解像度画像の概略図である。 様々な例示的な実装例に従う、処理していない状態の検出器の概略図である。 様々な例示的な実装例に従う、最も圧縮された状態の検出器の概略図である。 様々な例示的な実装例に従う、最も拡張された状態の検出器の概略図である。 別の例示的な実装例に従う、図21から23の画像から結合された単一の画像の概略図である。 別の例示的な実装例に従うカメラシステムの概略図である。 様々な例示的な実装例に従うデジタルカメラの解像度を向上させるための処理を示すフロー図である。 様々な例示的な実装例に従うデジタルカメラの解像度を向上させるための処理を示すフロー図である。 いくつかの例示的な実装例に従う、検出器アレイの個別の検出器によって提供される風景の各部分の画素を示す。 いくつかの例示的な実装例に従う、第1の位置において焦点面に投影されたターゲット画像の焦点と中心を位置合わせされた図28の検出器アレイの概略図である。 いくつかの例示的な実装例に従う、第1の位置において検出器アレイによって取得された第1の画像の概略図である。 いくつかの例示的な実装例に従う、焦点面が第2の位置に移動した検出器アレイの概略図である。 いくつかの実装例に従う、第2の位置において検出器アレイによって取得された第2の画像の概略図である。 風景内で動きがある、いくつかの例示的な実装例に従う、4つの位置のうち第1の位置において検出器アレイによって取得された一連の4つの画像の最初の画像の概略図である。 風景内で動きがある、いくつかの例示的な実装例に従う、4つの位置のうち最後の位置において検出器アレイによって取得された一連の4つの画像の最後の画像の概略図である。 いくつかの例示的な実装例に従う、図33の最初の画像の画素における風景の一部の概略図である。 いくつかの例示的な実装例に従う、図34の最後の画像の画素における風景の一部の概略図である。 風景内で動きがある、いくつかの例示的な実装例に従う、図33及び34の最初及び最後の画像から内挿された、一連の4つの画像の第2の画像の概略図である。 風景内で動きがある、いくつかの例示的な実装例に従う、図33及び34の最初及び最後の画像から内挿された、一連の4つの画像の第3の画像の概略図である。 いくつかの例示的な実装例に従う、超解像度画像を生成する方法の様々な動作を含むフロー図である。 いくつかの例示的な実装例に従う装置を示す。
本開示のいくつかの実装例を、添付する図面を参照してより完全に以下に説明するが、本開示の実装例のいくつかが示されているだけであって、全ての実装例が示されているわけではない。実際に、本開示の様々な実装例は、多くの異なる形態で実施されうるものであり、本明細書で言及される実装例に限定されるものとして解釈されるべきではない。むしろ、これらの例示的な実装例は、本開示が徹底し、完全なものとなり、当業者に本開示の範囲を完全に伝えるように提供される。例えば、そうでないと示されているのでなければ、第1、第2などとしているものについての言及は、特定の順序を意味していると解釈されるべきではない。また、例えば、本明細書において、定量的な測定量、値、関係などが参照されうる。そうでないと言及されているのでなければ、これらのいずれか1つ以上は、全てではないとしても、絶対的なもの、または工学的許容量などに起因するもののような、生じうる許容ばらつきを考慮に入れた近似的なものでありうる。同様の参照符号は、本願を通して同様の要素を指す。
図1は、本開示の例示的な実装例に従う、超解像度デジタル画像を生成するためのカメラシステム100を概略的に示している。カメラシステムでは、風景のターゲット画像102が検出器アレイ104によって取得されうる。例えば、1つまたは複数のレンズ106、108、アパーチャ110またはその他の光学素子(図示されない)が、画像102からの光を焦点面112に集束しうる。焦点面112に位置して、検出器アレイ104はターゲット画像からの光の強度を検出するように構成されうる。
図1の参照に続いて、ここで図2を参照すると、検出器アレイ104は、画像データを記録するように構成された個別の検出器114のアレイを含み、それによって、ターゲット画像102の風景の各部分についての画素を提供しうる。例えば、検出器は、電荷結合素子(CCD)、CMOSセンサまたはその他の画像センサを含みうる。各検出器は、単位時間あたり、その位置における光強度または光子計数を測定し、保存しうる。図2における例示的な検出器アレイは、20ミクロン(20μ)の正方形検出器の3×3アレイを示している。しかし、検出器アレイは、9個の正方形検出器に限定されない。さらに、検出器アレイ及び検出器について、もちろん他の寸法も使用されうる。
超解像度画像を生成するために、カメラシステム100は、電気信号を機械的エネルギーに変換するように構成された1つまたは複数のトランスデューサ116を含みうる。例えば、トランスデューサは、検出器アレイ104に結合されてもよく、検出器アレイ104に動きを与えるように構成されうる。カメラシステム100がトランスデューサ116を含むものとして示され、説明されているが、動きを与えるためのその他の手段も使用されうることは理解されるべきである。検出器アレイ104に動きを与えることによって、ターゲット画像102、レンズ106、108が静止したままである一方で、カメラシステム100は、所定の時間間隔にわたって複数の画像を取得しうる。次いで、検出器アレイ104によって取得された複数の画像は、単一の超解像度画像にまとめられうる。
カメラシステム100はまた、検出器アレイ104及びトランスデューサ116を制御するように構成された制御ユニット118(図1)を含みうる。制御ユニット118は、保存されたコンピュータ実行可能命令を有する非一時コンピュータ可読保存媒体を含み、またはそれに関連しうる「コンピュータプロセッサ」などのプロセッサまたはプロセッサベースのデバイスを含みうる。1つまたは複数のアルゴリズムが、制御ユニットに関連したメモリ120(図1)内にプログラムされうる。メモリは、非一時メモリを含みうる。制御ユニットは、その他のハードウェア、ソフトウェア、ファームウェア及びそれらの組合せを含みうることは理解されるべきである。
1つの例示的な実装例によれば、カメラシステム100は、制御ユニット118のメモリ120にあらかじめプログラムされた、移動に基づく超解像度モード、または「移動モード」を含みうる。移動モードは、所定の期間にわたって、検出器アレイ104をトランスデューサ116を介して焦点面112に対して異なる位置にシフトさせうる。検出器アレイ104が異なる位置にあるごとに、検出器アレイ104は画像を取得し、それによって所定の期間にわたって複数の画像を蓄積しうる。
例えば、トランスデューサ116は、圧電材料から構成されうる。カメラシステム100が移動モードにあると、制御ユニット118は、検出器アレイ104を動かすことができるように、トランスデューサ116の1つ(または複数)に信号を送信する。これに応じて、圧電トランスデューサは、信号からの電気エネルギーを検出器アレイ104の精密な機械的移動に変換しうる。圧電トランスデューサ以外の種類のトランスデューサ116も同様に使用されうることは理解されるべきである。。
図2に示されるように、1つのトランスデューサ116は、検出器アレイを水平方向(左右)に動かすことができるように、検出器アレイ104の第1の垂直辺122に結合されうる。別のトランスデューサ116は、検出器アレイを垂直方向(上下)に動かすことができるように、検出器アレイ104の第1の水平辺124に結合されうる。しかし、トランスデューサ116は、第2の垂直辺126、第2の水平辺128及び/または検出器アレイ104のその他の位置にももちろん結合されうる。さらに、2つより多い、または少ないトランスデューサ116が、様々な方向に検出器アレイ104を動かすために使用されうる。
また、各トランスデューサ116はさらに、水平方向及び垂直方向に沿って、検出器アレイ104をある移動量ごとに動かすように構成されうる。各移動量は、検出器アレイ104の個別の検出器114の長さの数分の1を含みうる。移動量の長さの分割を決定するために、検出器アレイ104の各検出器114は、より小さなサブ画素130に理論的に分割されうる。図2の例において、20ミクロン(20μ)の正方形の検出器114のそれぞれは、4つのサブ画素130に分割される。より具体的には、各検出器114は、10ミクロン(10μ)の正方形のサブ画素130の2×2アレイに区分される。
移動モードにおいて、検出器アレイ104は、水平方向にサブ画素130の長さだけシフトされ、垂直方向にサブ画素130の高さだけシフトされうる。図2において、例示的なサブ画素130の長さ及び高さは、10ミクロン(10μ)である。そのため、トランスデューサ116を使用すると、検出器アレイ104は、水平方向に個別の検出器114の長さの半分だけ動かされ、個別の検出器114の高さの半分だけ動かされうる。しかし、サブ画素130の別の構成ももちろん可能であり、したがって、その他の分割長さ及び移動量も使用されうる。
ここで、図1及び2の参照に続いて、図3から15を参照すると、カメラシステム100の移動モードの例が示されている。より具体的には、図3に示されるように、例示的なターゲット画像102は、焦点面112に集束されうる。図4に示されるように、検出器アレイ104が第1の位置132にあるとき、検出器アレイ104は、焦点面112の焦点と確実に位置合わせされうる。
第1の位置132の画像を取得するために、検出器アレイ104の個別の検出器114のそれぞれは、検出器の位置にある単位時間当たりの光強度を検出しうる。この例において、白いサブ画素129は、光子計数が0でありえ、黒いサブ画素133は光子計数が9でありえ、灰色のサブ画素131は光子計数が5でありうる。この代表的なスケールで、検出器アレイの個別の検出器それぞれによって検出された光強度が図5に示される。
測定され、保存された光子計数を使用して、第1の位置132において検出器アレイ104によって取得された第1の画像134が、図6に示されている。図6の第1の画像の図3のターゲット画像102に対する比較は、検出器アレイ104の固有の低解像度を示している。それ自体では、検出器アレイ104は、ターゲット画像102の精細な詳細を取得するには十分でない。
しかし、カメラシステム100の移動モードを使用すると、検出器アレイ104は、超解像度向上のために複数の画像を取得することが可能になる。図7に示されるように、検出器アレイ104は第2の位置136にシフトされうる。より具体的には、検出器アレイ104は、第1の垂直辺122(または焦点面112の左側)の水平方向へ1つの移動量だけ動かされうる。第2の位置136の検出器アレイ104の個別の検出器114のそれぞれによって検出された光強度が、図8に示されている。第2の位置136の検出器アレイ104によって取得された第2の画像138が図9に示されている。
反復して示された図10において、検出器アレイ104は第3の位置140にシフトされてもよく、検出器アレイ104は第1の水平辺124の方向とは反対の垂直方向(または垂直辺112の上方)に1つの移動量だけ動かされる。第3の位置140における検出器アレイ104の個別の検出器114のそれぞれによって検出された光強度が図11に示されている。第3の位置140における検出器アレイ104によって取得された第3の画像142が図12に示される。
さらに反復して、検出器アレイ104は図13に示されるように第4の位置144にシフトされうる。検出器アレイ104は、第1の垂直辺122の方向と反対の水平方向(または焦点面112の右側)に1つの移動量だけ動かされる。第4の位置144の検出器アレイ104の個別の検出器114のそれぞれによって検出された光強度が図14に示されている。第4の位置144において検出器104によって取得された第4の画像146が図15に示される。第1の位置132に戻るために、検出器アレイ104は、第1の水平辺124の垂直方向(または焦点面112の下方)へ1つの移動量だけ動かされうる。
カメラシステム100はさらに、複数の画像を単一の超解像度画像にまとめるように構成された処理ユニット150(図1)を含みうる。処理ユニット150は、カメラシステム100の制御ユニット118に統合され、または制御ユニット118からは分離されうる。1つの例において、処理ユニット150は、制御ユニット118及びメモリ120と連携する第2のメモリと関連した第2のプロセッサを含みうる。例えば、処理ユニット150は、光学系及び制御ユニットに含まれうる。代替的に、処理ユニットは、検出器アレイによって取得された複数の画像を後で処理するために使用されるパーソナルコンピュータ(PC)などの別個の構成要素に含まれうる。
処理ユニット150は、複数の画像を、インターリービング処理を介して単一の画像152にまとめうる。処理ユニットは、第1の画像134、第2の画像138、第3の画像142及び第4の画像146を、4つの画像のそれぞれからの強度のそれぞれを、隣同士配列することによって、図16に示されるように単一の超解像度画像152にインターリーブしうる。例えば、各画像134、138、142、144の頂部左側の検出器154からの強度は、それぞれ取られた位置に従って隣同士に配置され、単一画像152の頂部左側の角156により小さい大きさで表示されうる。
検出器アレイ104の検出器114の残りについて、インターリービングプロセスを繰り返すことにより、元の画像よりも多くの特徴の定義を示す、解像度の向上した画像を有する単一画像152が得られる。つまり、4つの3×3画素画像134、138、142、144をインターリービングすることにより、単一の6×6画素の画像152及び解像度の2×2の向上が得られる。4つより多い画像が、所定の期間の間に取得され、それによってさらに高い解像度の単一画像が得られうることは理解されるべきである。図3から16に関して、図示され、上述されたプロセスが、任意の大きさ(m×n)のサブ画素アレイについて、様々な所定の解像度向上の寸法に従って繰り返されうる。
ここで、図1から16に続いて、図17から20を参照すると、処理ユニット150はまた、線形代数を用いて複数の画像をまとめうる。線形代数方程式を形成できるように、参照アレイ158の各サブ画素は、図17に示されるような変数指標でラベルされうる。例えば、6×6アレイ160の各サブ画素は、サブ画素の強度が未知であることを示すaからaj(a、b、c、d、…ad、af、ai、aj)の変数に割り当てられうる。図17に示された以外の変数指標及び参照アレイももちろん使用されうる。
さらに、複数の画像を取得する際、検出器アレイ104の少なくとも一部は、移動モードの所定の期間の少なくとも一部の間、焦点面112に投影されたターゲット画像102の境界162の外側に延在しうる。ターゲット画像102はアパーチャ110を通して焦点面112へ投影されるため、境界162はアパーチャ110によって決定されうる。例えば、移動モードにおいて、検出器アレイ104は検出器アレイ104で境界162の外側のいくつかの画像を取得する特定の位置へシフトされ、その結果、参照アレイ158は光強度がゼロである境界164を有することとなりうる。境界164の各サブ画素は、アレイ160のサブ画素と同じ大きさでありうる。
より具体的には、検出器アレイ104が焦点面112の焦点と正しく位置合わせされた第1の位置132から、移動モードにおいて、カメラシステム100は、光強度が0である境界164が取得されるように検出器アレイを移動することを目指しうる。これは、光が入射しない境界162を越えて、検出器アレイの少なくとも一部を延在させることによってなされる。そうして、境界164の各サブ画素が、光強度0で既知であるとラベルされうる。
図17に、境界164が2つの行及び2つの列のゼロ強度のサブ画素を有するものとして示されているが、境界164の別の構成も使用されうることは理解されるべきである。例えば、境界164は1行1列のゼロ強度サブ画素のみを含みうる。
サブ画素変数指標を割り当て、ゼロ光強度の境界164を提供することにより、処理ユニット150は、線形代数によって効率的に解かれる参照アレイ158についての方程式を設定することができる。図18の頂部左側検出器154についての例に示されるように、第1の画像134、第2の画像138、第3の画像142、第4の画像146及びそれらの検出された光強度のそれぞれに参照アレイを適用する際に、以下の方程式が立てられうる。
a+b+c+d=9
a+0+c+0=0
a+0+0+0=0
a+b+0+0=0
変数a、b、c及びdについて解くために線形代数を用いると、以下の解を得る。
a=b=c=0,d=9
変数a、b、c及びdについて解くと、処理ユニット150はその他の変数eからaj(e、f、g、…ai、aj)についても順次解きうる。線形代数を用いて参照アレイ158の各サブ画素について光強度を決定すると、図19に示された解のアレイ166が得られる。光強度の値(光子計数0の白いサブ画素、光子計数9の黒いサブ画素、及び光子計数5の灰色のサブ画素)を表すスケールを解のアレイに適用すると、図20の単一の超解像度画像168が得られる。図示されるように、4つの画像134、138、142、144をまとめるために線形代数を用いると、移動モードのないカメラシステムとして、4倍の解像度を有する単一の画像168が生成される。
図2から20に示され、前述された例は、例示的な目的のためのものであり、開示されたシステム100及び技術は、超解像度を達成するためにより多い、または少ない反復で使用されうることは理解されるべきである。開示されたシステム及び技術は、任意の大きさ(m×n)のサブ画素アレイについて、様々な所定の解像度向上の寸法に従って使用され、改善されうる。
さらに、カメラシステム100は、別の方法で検出器アレイ104に対して動きを与えうる。移動モードのトランスデューサ116によって与えられる動きは、検出器アレイ104全体を別の位置へ物理的にシフトさせるが、別の種類の動きが与えられうる。例えば、別の例示的な実装例によれば、カメラシステム100は、制御ユニット118のメモリ120に予めプログラムされた音波に基づく超解像度モード、または「音波モード」を含みうる。音波モードは、圧力の機械的波動として伝搬する振動である音波を介して検出器アレイ104を動かしうる。音波または圧力波は、材料にひずみを生じる。そのため、検出器アレイ104に印加されると、音波は検出器アレイ104の大きさを変化させうる。
音波モードの1つの例において、トランスデューサ116は、検出器アレイ104にわたって音波を導入するように構成されたスピーカートランスデューサでありうる。別の例において、移動モードと同様に、トランスデューサ116は検出器アレイ104にわたって延在する圧電トランスデューサでありうる。圧電トランスデューサは検出器アレイを伸縮させるように構成され、それによって検出器アレイ104にわたって圧力波を導入しうる。音波を通して検出器アレイ104に動きを与えることによって、複数の画像が、所定の期間にわたって検出器アレイの異なるサイズで取得されうる。
ここで、図1から20に続いて、図21から24を参照すると、カメラシステム100の音波モードの例が1つの検出器114について示されている。図21に示されているように、ひずみのない状態では、検出器は長さ20ミクロン(20μ)でありえ、画像170において単位時間当たり200個の光子を測定しうる。ターゲット画像102及びレンズ106、108が静止したままの状態で、音波または圧力波が検出器アレイ104及び個別の検出器114のそれぞれにわたって導入されうる。トランスデューサ116が例えば検出器アレイ104の第1の垂直辺122(図2)に結合されていると、検出器114は水平方向に伸縮することとなる。
図22に示されるように、最大圧縮状態では、検出器114は18ミクロン(18μ)の長さまで圧縮され、画像172において単位時間当たり140個の光子を測定しうる。図23に示されるように、最大伸長状態では、検出器114は22ミクロン(22μ)の長さであり、画像174において単位時間当たり240個の光子を測定しうる。3つの画像170、172、174を1つにまとめると、図24に示されるように、音波伝搬方向において可変強度の単一の画像176が生成される。
より具体的には、3つの画像170、172、174からひずみのない状態、最大圧縮状態、及び最大伸長状態で取得された光子計数が、単一画像176のサブ画素178に入射した光子計数を決定するために、互いに比較されうる。次いで、サブ画素のそれぞれからの強度はまとめられて超解像度画像176を生成する。音波伝搬の間、ひずみのない状態、最大圧縮状態及び最大伸長状態以外の状態における光子計数の収集も行われうることは理解されるべきである。
音波または圧力波について様々な周波数が使用されうる。さらに、カメラシステム100が音波モードにある所定の期間の間、検出器114は、検出器114がひずみのない状態、最大圧縮状態及び最大伸長状態にある所定の時間間隔内の光強度を測定しうる。さらに、音波の周波数が周期的であると、単位時間当たりの光子計数のサンプリングが収集され、1つに平均化されうる。
さらに、異なる方向の音波伝搬を使用すると、その方向の解像度を向上させることができる。例えば、検出器アレイ104の第1の水平辺124(図2)に結合された別のトランスデューサ116では、検出器114は、音波が印加されると、垂直方向に伸縮することとなる。そのため、2つの垂直な方向、例えば水平方向及び垂直方向に音波を導入すると、格子型の改善が得られうる。音波の伝搬は、水平及び垂直以外の方向にも印加されうることは理解されるべきである。例えば、音波は検出器114及び検出器アレイ104にわたって対角線方向に導入されうる。さらに、音波伝搬について様々な方向を選択することによって、超解像度画像を生成するために使用されうる様々な形状、大きさ及び強度マップの検出器アレイ114が可能になる。
図25に示されるように別の例示的な実装例において、前述したものと同様の結果を得ることができるように、動きが検出器アレイ104ではなく1つまたは複数のレンズ106、108に与えられうる。例えば、ターゲット画像102及び検出器アレイ104が静止している際に、レンズが動きうる。レンズに動きを与えると、検出器アレイ104に対して焦点面112上に投影された画像の焦点が動く。次いで、検出器アレイ104は、超解像度向上を可能にするために、所定の期間、複数の画像を取得しうる。
例えば、1つまたは複数のトランスデューサ216が、レンズ106、108に結合されうる。トランスデューサは、スピーカートランスデューサまたは圧電トランスデューサでありうる。移動モード及び音波モードでは、レンズ106、108は位置をシフトし、または大きさを変えうる。レンズのひずみを変更することは、光が曲げられる方向を変更することとなり、それによって、ターゲット画像102が動いていないときの検出器アレイ104における光子経路の位置を変更することとなる。焦点面への距離及び音波強度の戦略的な選択によって、カメラシステム100は、焦点面112全体にわたって超解像度を提供するように設計されうる。
さらに、カメラシステム100の外側の機械的振動は、超解像度画像に影響を与えうる。したがって、カメラシステムに、超解像度画像への振動の衝撃を低減するための調整が保証されうる。
一般に、前述の開示から、カメラシステムに関する様々な用途における利用が考えられる。特に、開示されたシステム及び技術は、超解像度画像を提供するために使用されうる。例えば、開示されたシステム及び技術は、人工衛星、無人航空機(UAV)、並びに、諜報、偵察及び調査(ISR)の目的のために、及び軍事環境、民生環境のいずれにも使用するためのその他の用途について使用されるその他の調査プラットフォームにも採用されうるが、これらに限定されない。
開示されたシステム及び技術をデジタルカメラシステムに実装することによって、画像の解像度を改善するための低コストかつ効率的な解決手段が提供される。開示された移動ベースの超解像度モード及び音波ベースの超解像度モードは、大きな費用の必要なく容易に実装されうる。移動モード及び音波モードはそれぞれ、超解像度画像が望ましいか否かに応じてオンまたはオフにされうる。
ここで、図1から25に続いて図26を参照すると、本開示の別の例示的な実装形態に従う、レンズ106、108及び検出器アレイ104を有するデジタルカメラシステム100の解像度を向上させるためのプロセス220が示されている。ブロック222において、検出器アレイ104は、第1の画像134を取得する。ブロック224において、動きがレンズ106、108及び検出器アレイ104の1つに与えられる。検出器アレイ104は、ブロック226において別の画像138を取得する。次いで、ブロック228において、カメラシステム100の制御ユニット118は、さらなる画像142、146が取得されるか否かを決定する。所定の解像度改善の特徴に応じて、さらなる画像142、146が取得される必要がありうる。例えば、2×2解像度向上について、異なる位置における4つの画像が取得される必要がある。より多くの画像が取得される必要がある場合、プロセス220はブロック224に進み、全ての所定の画像が取得されるまでブロック224及び226を繰り返す。さらなる画像が取得される必要がない場合、ブロック230において、画像134、138、142、146が、向上した解像度を有する単一画像152にまとめられる。
デジタルカメラシステムの解像度を向上させるための別のプロセス242が図27に示されている。ブロック244において、音波がレンズ106、108及び検出器アレイ104の1つにわたって、所定の期間だけ印加されうる。ブロック246において、音波が印加される所定の期間の間、検出器アレイ104は選択的に複数の画像を取得する。
いくつかの例において、前述したような移動ベースの超解像度画像の伝搬収差は、画素ごとの感度差、画像取得される風景内の移動する物体などによって引き起こされうる。これらの、及びその他の別の欠点に対応するために、いくつかの例示的な実装例は、検出器アレイ104の画素を、個別の検出器114のいずれかの感度差について補償するための参照画素に較正する。画素感度の差がゆっくりと変化するのみである場合、またはこれが2次元でなされる場合、風景内の動きが決定可能であり、画像内のそれぞれへの影響を順に決定するために内挿可能であり、これは被写体ぶれを低減することとなる。
前述のように、検出器アレイ104は、ターゲット画像102内の風景の各部分について画素を提供するように構成された個別の検出器114のアレイを含む。いくつかの例示的な実装例によれば、検出器アレイはレンズ106、108または検出器アレイ104のそれぞれにおいてある移動量ごとに画像を取得するように構成され、それによって焦点面112は、検出器アレイ104の物理的構成によって定義されるように水平方向または垂直方向に沿って個別の検出器114の長さだけ移動される。いくつかの例において、これは少なくとも2つの移動量を含み、少なくとも1つの移動量は、焦点面112が水平方向に沿って個別の検出器114の長さだけ移動し、少なくとも1つの移動量は、焦点面112が垂直方向に沿って個別の検出器114の長さだけ移動する。処理ユニット150は、画像内の画素の光強度を決定し、光強度に基づいて画素のうち参照画素に対する画素を較正し、それによって個別の検出器114のいずれかの感度差を補償するように構成される。
いくつかの例において、少なくともいくつかの画素の各画素について、前述の較正は、画像102のうち1つの画像の参照画素の光強度と、画像のうち別の画像の画素の光強度との比較を少なくとも実施するように構成された処理ユニット150を含む。画像の1つ及び別の画像において、風景の一部は、画像のうち1つの画像の参照画素及び画像のうち別の画像の画素について同じである。この比較に基づいて、処理ユニット150は、少なくとも、参照画素の光強度と画素の光強度とが異なる例において、画素の光強度の調整のための増幅因子を決定するように構成される。これに関して、増幅因子は、画素の光強度に対する参照画素の光強度の比であり、またはこの比から決定される。
いくつかの例に従う較正をさらに例示するために、図28から32が参照される。図28は図2に類似しているが、検出器アレイ104の個別の検出器114は、ターゲット画像102内の物体282(図29を参照)を含む風景の各部分についての画素280を提供することを示している。図29に示されるように、例示的なターゲット画像102は焦点面112上に集束され、検出器アレイ104が第1の位置284にあるとき、検出器アレイ104は焦点面112の焦点と中心を位置合わせされる。第1の位置284で画像を取得するために、検出器アレイ104の個別の検出器114のそれぞれは、検出器114の位置において単位時間当たりの光強度を検出しうる。この例において、画素の1つ280a-参照画素-は9個の光子計数を有してもよく、その他の画素は0個の光子計数を有してもよい。そして、測定され、保存された光子計数を用いて、第1の位置284において検出器アレイ104によって取得された第1の画像286は、図30に示されている。
図31に示されるように、検出器アレイ104は、第2の位置288へ1つの個別の検出器114の長さだけシフトされうる。より具体的には、検出器アレイ104は、焦点面112の左側へ水平方向に1つの移動量だけ移動されうる。第2の位置288において検出器アレイ104によって取得された第2の画像290は、図32に示されている。第2の画像290において、風景の一部は第1の画像286の参照画素280a及び第2の画像の画素280bと同じである。しかし、ここでは、画素280bは第2の画像内で8個の光子計数を有するものと仮定する。つまり、画素280bによって計数された光子の数は、各画素が風景の同じ部分に露光されたときに、参照画素280aによって計数された光子の数とは異なる。この例において、処理ユニット150は、画素280bの光強度の調整のための増幅因子を決定しうる。また、いくつかの例において、増幅因子は、参照画素280aの光強度の、画素280bの光強度に対する比である(この例では9/8)。この画素280bの光強度は、次いで、超解像度画像処理において、参照画素280aに対して較正するための増幅因子によって増幅されうる。
いくつかの例において、処理ユニット150は、風景の一部が参照画素280a及び画素280bについて同じであるような画像102の各対において、参照画素280aの光強度と画素280bの光強度との比較を実行するように構成される。これらの例のいくつかにおいて、処理ユニット150は、画像の各対について、参照画素280aの光強度の、画素280bの光強度に対する比の平均を決定し、それによって、画素の光強度の調整のための増幅因子を決定するように構成される。
いくつかの例において、画素の少なくとも別のいくつかのうちの別の画素のそれぞれについて、較正は、画像102のうち1つの画像における画素の光強度の、画像のうち別の画像における別の画素の光強度に対する比を少なくとも決定するように構成された処理ユニット150を含む。前述のものと同様に、画像のうち1つの画像と、別の画像とにおいて、風景の一部は、画像のうち1つの画像における画素と、画像のうち別の画像における別の画素について同じである。次いで、処理ユニット150は、別の画素の光強度の調整のための増幅因子を決定するように構成される。この増幅因子は、画素の光強度の調整のための増幅因子と、画素の光強度の、別の画素の光強度に対する比との積である。
いくつかの例において、前述の処理は、省略され、またはそうでなければ後続の較正及び/もしくは超解像度画像処理において考慮されうる不良画素を特定するのに有用でありうる。より具体的には、いくつかの例において、画素のうちいずれかの特定の画素に関して、処理ユニット150は、画像102のうち1つの画像における参照画素の光強度と、画像のうち別の1つの画像における特定の画素の光強度との比較を実行するように構成される。再び、画像のうち1つの画像及び別の画像において、風景の一部は、画像のうち1つの画像の参照画素及び画像のうち別の画像の特定の画素について同じである。またこれらの例において、処理ユニットは、参照画素の光強度及び特定の画素の光強度が、不良画素を示す所定の閾値よりも大きい量だけ異なるという例において、不良画素であるとして特定の画素を識別するように構成される。いくつかの例において、この所定の閾値は、参照画素の光強度の半分またはそれ以上でありうる。
較正の正確な方法とは無関係に、画素についての増幅因子は、前述のもののように、その後超解像度画像処理で使用されうる。特に、例えば、トランスデューサ116は、検出器アレイ104が複数の画像を取得するように構成される所定の期間にわたって、レンズ106、108または検出器アレイ104を動かし、それによって焦点面112を動かすように構成される。制御ユニット118は、画素をサブ画素に分割し、所定の期間の間、サブ画素の長さの移動量でレンズ106、108または検出器アレイ104を動かすようにトランスデューサを制御するように構成される。そして、処理ユニット150は、複数の画像からの画素の光強度を、画素の少なくともいくつかの各画素について増幅因子を使用して決定し、画素の光強度からサブ画素の光強度を決定し、単一の画像を生成するためにサブ画素の光強度を組み合わせるように構成される。
いくつかの例において、画素感度差を決定するために使用されるのと同じ処理が、画像102の風景内の動きを決定するのに使用されてもよく、これは、被写体ぶれを低減するために一連の画像内の画像のそれぞれへの影響を決定するために内挿されうる。これらの例において、複数の画像は、第1の画像、最後の画像及びそれらの間の少なくとも1つの画像を有する一連の画像を含む。次いで、処理ユニット150はさらに、風景の一部が最初の画像及び最後の画像の画素の対について同じである、最初の画像及び最後の画像の画素の少なくとも1つの対の光強度の比較を少なくとも実行するように構成される。画素の対の光強度が、風景内の動きを示す所定の閾値よりも大きい量だけ異なる少なくとも1つの例では、処理ユニットは、最初の画像及び最後の画像の画素の光強度からの内挿によって、最初の画像と最後の画像との間の画像内の画素の光強度を決定するように構成される。
サブ画素の長さが画素の数分の一に対応するようないくつかのさらなる例において、最初の画像と最後の画像との間の画像102内の画素の光強度を決定するように構成された処理ユニット150は、最初の画像及び最後の画像内の風景の各部分についての画素の光強度に基づいて、画像内の風景の各部分について光強度を少なくとも内挿するように構成されることを含む。また、これは画像内の画素の風景の各部分の数分の一に対応する風景の各部分についての光強度の数分の一に基づいて、画像内の画素の光強度を決定するように構成される処理ユニットを含む。
また、風景内の物体282が焦点面112と同じ方向に同じ速度で動く図29-32に示された例を考える。この例において、一連の4つの画像が個別の検出器114(3つのサブ画素130)の長さの3分の1の移動量で、図29から32に示された第1及び第2の画像286、290と同時に取得されうる。物体が静止している例では、一連の画像内の最初及び最後の画像が第1及び第2の画像に対応すると予測しうる。しかし、物体が前述のように動いている例では、最初及び最後の画像は、ともに第1の画像288と同じ外観でありうる。これは、一連の4つの画像のうち最初の画像292及び最後の画像294についてそれぞれ図33、34に示されている。動きのない第2の画像290(図32)と動きのある最後の画像294(図34)との比較は、風景内の動きによって、参照画素280a及び画素280bについて光強度が異なることになることを示している。
この例において、風景の一部が依然として最初の画像及び最後の画像における参照画素280a及び画素280bについて同じであるが、画素の対の光強度は、風景内の物体282の動きを示す所定の閾値よりも大きな量だけ異なっている。そして、処理ユニット150は、最初の画像292及び最後の画像294内の画素の光強度からの内挿によって、最初の画像292と最後の画像294との間の2つの画像(第2及び第3の画像)内の画素280の光強度を決定するように構成されうる。
より具体的には、いくつかの例において、この内挿は、最初の画像及び最後の画像内の風景の各部分について、画素の光強度に基づいてなされる。図33及び34の例において画素280cの追加的な1つを識別すると、第1の画像292の画素280a及び280c内の風景の部分は、最後の画像294の画素280b及び280aにおけるものとそれぞれ同じである。第1の画像の画素280b内の風景の部分は、最後の画像294の外側になり、最初の画像の外側の風景の追加的な部分が最後の画像の中に入ってくる。これは、第1の画像292内の画素280a、280b及び280cにおける風景の部分がそれぞれ「A」、「B」及び「C」によって表され、これらの部分が最後の画像294内の画素である、図35及び36にさらに示されている。
再び、以前と同じ光子計数を仮定すると、風景の部分A、B及びCは、第1の画像292内でそれぞれ9、0、0の光子計数を有し、最後の画像294内でそれぞれ0、0、9の光子計数を有する。最初の画像292と最後の画像294との間の内挿によって、風景の部分A、B及びCは、第2の画像内でそれぞれ6、0、3の光子計数を有し、第3の画像内でそれぞれ3、0、6の光子計数を有する。風景A、B及びCの部分についての合計では、次のようになる。
Figure 0007111528000001
画素は最初の画像292から最後の画像294まで3分の1の移動量で動くため、第2の画像では、画素280aは2/3A+1/3C=5であり、画素280bは2/3B+1/3A=2であり、画素280cは2/3C=2である。第3の画像において、画素280aは1/3A+2/3C=5であり、画素280bは1/3B+2/3A=2であり、画素280cは1/3C=2である。画素280a、280b及び280cについての合計では、次のようになる。
Figure 0007111528000002
そして、前述の光子計数を使用すると、図37及び38は、第2の画像296及び第3の画像298をそれぞれ示している。
図39は、本開示のいくつかの例示的な実装例に従う、超解像度画像を生成するための方法300の様々な動作を含むフロー図を示している。ブロック302において、本方法は、検出器アレイ104によって、レンズ106、108を介して焦点面112に集束される風景の画像を取得する段階を含む。検出器アレイ104は、風景の各部分について画素を提供する個別の検出器114のアレイを含む。検出器アレイ104は、レンズ106、108または検出器アレイ104及びそれによって焦点面112が、検出器アレイ104の物理的構成によって定義されるような水平方向または垂直方向に沿って、個別の検出器114の長さだけ移動される、各移動量において画像を取得する。
ブロック304及び306において、本方法は、処理ユニット150によって、画像内の画素の光強度を決定し、画素を、光強度に基づいて画素のうち参照画素に対して較正する段階を含み、それによって個別の検出器114のいずれかの感度差を補償する。少なくともいくつかの画素のうち各画素について、画素を較正する段階は、少なくとも、ブロック308において、画像のうち1つの画像の参照画素の光強度と、画像のうち別の画像の画素の光強度の比較を実行する段階を含み、風景の一部は、画像のうち1つの画像の参照画素及び画像のうち別の画像の画素について同じである。また、画素を較正する段階は、比較に基づいて、ブロック310において、少なくとも、参照画素の光強度及び画素の光強度が異なり、増幅因子が、参照画素の光強度の、画素の光強度に対する比である、または比から決定される例において、画素の光強度の調整のための増幅因子を決定する段階を含む。
いくつかの例において、1つまたは複数の装置が、本明細書で示され、説明されたような制御ユニット118または処理ユニット150のいずれかまたは両方として機能する、またはいずれかまたは両方を実装するように構成されて提供されうる。複数の装置を伴う例では、各装置は、有線または無線ネットワークなどを直接または間接的に介するなどの、複数の異なる方法で互いに接続され、または互いに通信可能にされうる。
図40は、いくつかの例示的な実装例に従う装置312をより具体的に示す。一般に、本開示の例示的な実装例の装置は、1つまたは複数の固定された、または携帯可能な電子デバイスを備え、含み、またはこのような電子デバイスに実現されうる。本装置は、例えば、メモリ316(例えば記憶装置)に接続されたプロセッサ314などの複数の構成要素のそれぞれを1つまたは複数含みうる。
プロセッサ314は、一般にデータ、コンピュータプログラム及び/またはその他の適切な電子的情報などの情報を処理することが可能な、任意の数のコンピュータハードウェアである。プロセッサは、電子回路の集合体から構成され、そのいくつかは、集積回路または複数の相互接続された集積回路(集積回路は、より一般的には「チップ」と称されることもある)としてパッケージされうる。プロセッサは、コンピュータプログラムを実行するように構成され、コンピュータプログラムは、プロセッサ上に保存され、または(同じもしくは別の装置の)メモリ316内に保存されうる。
プロセッサ314は、特定の実装例に応じて、複数のプロセッサ、マルチプロセッサコアまたはその他何らかの種類のプロセッサであってよい。さらに、プロセッサは、主プロセッサが単一チップ上の1つまたは複数の2次プロセッサとともに存在するような、複数の異種プロセッサシステムを用いて実装されうる。別の例示的な例として、プロセッサは、同じ種類の複数のプロセッサを含む対称的なマルチプロセッサシステムでありうる。さらに別の例では、プロセッサは、1つまたは複数の特定用途集積回路(ASIC)、FPGAなどとして埋め込まれ、またはこれらを含みうる。そのため、プロセッサは1つまたは複数の機能を実行するためにコンピュータプログラムを実行することが可能でありうるが、様々な例のプロセッサは、コンピュータプログラムの助けなしに1つまたは複数の機能を実行可能でありうる。
メモリ316は、一般に例えばデータ、コンピュータプログラム(例えばコンピュータ可読プログラムコード318)及び/またはその他の適切な情報などの情報を、一時的に、及び/または永続的に保存することが可能な任意の数のコンピュータハードウェアである。メモリは、一時的及び/または非一時的メモリを含んでもよく、固定されても、取り外し可能であってもよい。適切なメモリの例は、ランダムアクセスメモリ(RAM)、読み出し専用メモリ(ROM)、ハードドライブ、フラッシュメモリ、サムドライブ、リムーバブルコンピュータディスケット、光学ディスク、磁気テープまたは前述の何らかの組合せを含む。光学ディスクは、読み出し専用メモリコンパクトディスク(CD-ROM)、読み出し/書き込みコンパクトディスク(CD-R/W)、DVDなどを含みうる。様々な例においてメモリは、コンピュータ可読保存媒体と称されうる。コンピュータ可読保存媒体は、情報を保存することが可能な非一時的装置であり、1つの場所から別の場所へ情報を運ぶことが可能な電子一時信号などのコンピュータ可読伝送媒体とは区別可能である。本明細書で説明されるように、コンピュータ可読媒体は、一般に、コンピュータ可読保存媒体またはコンピュータ可読伝送媒体を指しうる。
メモリに加えて、プロセッサは、情報を表示、送信及び/または受信するための1つまたは複数のインターフェースにも接続されうる。インターフェースは、通信インターフェース320(例えば通信ユニット)及び/または1つもしくは複数のユーザーインターフェースを含みうる。通信インターフェースは、他の装置、ネットワークなどへ情報を送信し、及び/または他の装置、ネットワークなどから情報を受信するように構成されうる。通信インターフェースは、物理的(有線)及び/または無線通信リンクによって情報を送信及び/または受信するように構成されうる。適切な通信インターフェースの例は、ネットワークインターフェースコントローラ(NIC)、無線NIC(WNIC)などを含む。
ユーザーインターフェースは、ディスプレイ322及び/または1つもしくは複数のユーザー入力インターフェース324(例えば入力/出力ユニット)を含みうる。ディスプレイは、情報を使用者に提示するかまたは表示するように構成され、それらの適切な例は、液晶ディスプレイ(LCD)、発光ダイオードディスプレイ(LED)、プラズマディスプレイパネル(PDP)などを含む。
ユーザー入力インターフェース324は有線または無線でありえ、情報を、使用者から、処理、保存及び/または表示などのための装置に受信するように構成されうる。ユーザー入力インターフェースの適切な例は、マイクロフォン、画像またはビデオ取得装置、キーボードまたはキーパッド、ジョイスティック、(タッチスクリーンとは別に、またはタッチスクリーンに集積された)タッチ感応表面、生体センサなどを含む。ユーザーインターフェースはさらに、プリンター、スキャナーなどの周辺機器と通信するための1つまたは複数のインターフェースを含みうる。
前述のように、プログラムコード命令は、メモリ内に保存され、プロセッサによって実行されて、本明細書に説明されたシステム、サブシステム及びそれらの各要素の機能を実装しうる。了解されるように、いずれかの適切なプログラムコード命令が、コンピュータまたはその他のプログラム可能な装置に、コンピュータ可読保存媒体から読み出され、特定の機械を生成し、特定の機械が本明細書で特定される機能を実装するための手段となりうる。これらのプログラムコード命令はまた、特定の方法で特定の機械または特定の製品を作るための機能を発揮するコンピュータ、プロセッサまたはその他のプログラム可能な装置を対象としうるコンピュータ可読保存媒体内に保存されうる。コンピュータ可読保存媒体に保存された命令は、製品を製造してもよく、製品は、本明細書で説明された機能を実装するための手段となる。プログラムコード命令は、コンピュータ可読媒体から引き出され、コンピュータ、プロセッサまたはその他のプログラム可能な装置に読み出されて、コンピュータ、プロセッサまたはその他のプログラム可能な装置に、コンピュータ、プロセッサまたはその他のプログラム可能な装置で、またはそれらによって実行されることとなる動作を実行させるように構成しうる。
プログラムコード命令の引出し、読み出し及び実行は、1つの命令が一度に引き出され、読み出され、実行されるように、順に実行されうる。いくつかの例示的な実装例において、引き出し、読み出し及び/または実行は、複数の命令が一度に引き出され、読み出され、及び/または実行されるように並列に実行されうる。プログラムコード命令の実行は、コンピュータ、プロセッサまたはその他のプログラム可能な装置によって実行された命令が、本明細書で説明された機能を実装するための動作を提供するように、コンピュータ実装されたプロセスを生成しうる。
プロセッサによる命令の実行またはコンピュータ可読保存媒体内への命令の保存は、特定の機能を実施するための動作の組合せをサポートする。この場合、装置312は、プロセッサ314及びプロセッサに結合されたコンピュータ可読保存媒体またはメモリ316を含んでもよく、プロセッサは、メモリ内に保存されたコンピュータ可読プログラムコード318を実行するように構成される。また、1つまたは複数の命令及び機能の組合せが、特定の機能を実行する特殊用途ハードウェアベースのコンピュータシステム並びに/もしくはプロセッサ、または特殊用途ハードウェアおよびプログラムコード命令の組合せによって実装されうることも了解されるであろう。
さらに、本開示は、以下の項目に従う実施形態を含む。
項目1 超解像度画像を生成するためのカメラシステムであって、前記カメラシステムが、
レンズと、
前記レンズを通して焦点面に集束された風景の画像を取得するように構成された検出器アレイであって、前記検出器アレイが、前記風景の各部分に対して画素を提供するように構成された個別の検出器のアレイを含み、前記検出器アレイが、前記レンズまたは前記検出器アレイ及びそれによって前記焦点面が、前記検出器アレイの物理的構成によって定義された水平方向または垂直方向に沿って個別の検出器の長さだけ動かされる移動量で、前記画像を取得するように構成された、検出器アレイと、
前記画像内の前記画素の光強度を決定し、前記画素を、前記光強度に基づいて前記画素のうちの参照画素に対して較正し、それによって前記個別の検出器のいずれかの感度差を補償するように構成された処理ユニットと、を含み、
前記画素の少なくともいくつかのうちの各画素について、画素を較正するように構成された前記処理ユニットが、少なくとも、
前記風景の一部が前記画像のうちの1つの画像における前記参照画素及び前記画像のうちの別の画像における前記画素について同じであるような、前記画像のうちの1つの画像における前記参照画素の光強度と、前記画像のうちの別の画像における画素の光強度との比較を行うことと、
それに基づいて、少なくとも、前記参照画素の前記光強度と前記画素の前記光強度とが異なる場合において、前記画素の前記光強度の調整のために増幅因子を決定することであって、前記増幅因子が前記参照画素の前記光強度の、前記画素の前記光強度に対する比であるか、または前記比から決定される、増幅因子を決定することと、
を行うように構成されることを含む、カメラシステム。
項目2 ある移動量ごとに前記画像を取得するように構成された前記検出器アレイが、少なくとも2つの移動量ごとに前記画像を取得するように構成されること、前記焦点面が前記水平方向に沿って前記個別の検出器の長さだけ移動される少なくとも1つの移動量及び、前記焦点面が前記垂直方向に沿って前記個別の検出器の長さだけ移動される少なくとも1つの移動量を含むこと、を含む、項目1に記載のカメラシステム。
項目3 前記画素のうち少なくとも別のいくつかの画素のそれぞれについて、前記別の画素を較正するように構成された前記処理ユニットが、少なくとも、
前記風景の一部が前記画像のうちの1つの画像における画素及び前記画像のうち別の画像における別の画素について同じであるような、前記画像のうち1つの画像における前記画素の光強度の、前記画像のうち別の画像における別の画素の光強度に対する比を決定することと、
前記別の画素の前記光強度の調整のための増幅因子を決定することであって、前記増幅因子が、前記画素の前記光強度の調整のための前記増幅因子と、前記画素の前記光強度の、前記別の画素の前記光強度に対する比との積である、増幅因子を決定することと、
を行うように構成されることを含む、項目1または2に記載のカメラシステム。
項目4 前記比較を実行するように構成された前記処理ユニットが、前記風景の一部が前記参照画素及び前記画素について同じであるような、前記画像の各対における前記参照画素の前記光強度と画素の光強度との比較を実行するように構成されることを含み、
前記増幅因子を決定するように構成された前記処理ユニットが、前記画像の各対についての前記参照画素の前記光強度の画素の光強度に対する比の平均を決定するように構成されることを含む、項目1から3のいずれか一項に記載のカメラシステム。
項目5 前記画素のうちいずれかの特定の画素について、前記処理ユニットが、
前記風景の一部が前記画像のうち1つの画像における参照画素及び前記画像のうち別の画像における特定の画素について同じであるような、前記画像のうち1つの画像における前記参照画素の前記光強度と、前記画像のうち別の画像における前記特定の画素の光強度との比較を実行することと、
前記参照画素の前記光強度と前記特定の画素の前記光強度とが、不良画素を示す所定の閾値よりも大きい量だけ異なるような場合において、前記特定の画素を不良画素として識別することと、
を行うように構成された、項目1から4のいずれか一項に記載のカメラシステム。
項目6 前記レンズまたは前記検出器アレイに結合され、前記レンズまたは前記検出器アレイ及びそれにより前記焦点面を動かすように構成された、トランスデューサと、
前記トランスデューサと通信可能であり、前記レンズまたは前記検出器アレイを動かすために前記トランスデューサを制御するように構成された、制御ユニットと、をさらに含む、項目1から5のいずれか一項に記載のカメラシステム。
項目7 前記カメラシステムが、前記画素の較正後に超解像度画像を生成するように構成され、
前記トランスデューサが、前記レンズまたは前記検出器アレイ及びそれにより前記焦点面を、前記検出器アレイが複数の画像を取得するように構成された所定の期間にわたって動かすように構成され、
前記制御ユニットが、前記画素をサブ画素に分割し、前記所定の期間の間、サブ画素の長さの移動量ごとに前記レンズまたは前記検出器アレイを動かすように前記トランスデューサを制御するように構成され、
前記処理ユニットが、前記複数の画像から、前記画素の光強度を、前記画素の少なくともいくつかの各画素について前記増幅因子を使用して決定し、前記画素の前記光強度から前記サブ画素の光強度を決定し、前記サブ画素の前記光強度をまとめて単一画像を生成するように構成された、項目6に記載のカメラシステム。
項目8 前記複数の画像が、最初の画像、最後の画像及びそれらの間の少なくとも1つの画像を有する一連の画像を含み、前記処理ユニットがさらに、少なくとも、
前記風景の一部が、前記最初の画像及び前記最後の画像の少なくとも一対の画素について同じであるような、前記最初の画像及び前記最後の画像における少なくとも一対の画素の光強度を比較することを実行するように構成され、
前記少なくとも一対の画素の前記光強度が、前記風景の動きを示す所定の閾値よりも大きい量だけ異なるような少なくとも1つの場合において、前記画素の前記光強度を決定するように構成された前記処理ユニットが、前記最初の画像と前記最後の画像との間の少なくとも1つの画像における画素の光強度を、前記最初の画像及び前記最後の画像内の画素の前記光強度から内挿することによって決定するように構成されることを含む、項目7に記載のカメラシステム。
項目9 前記サブ画素の長さが、画素の数分の一に対応し、少なくとも1つの画像における前記画素の前記光強度を決定するように構成された前記処理ユニットが、少なくとも、
前記少なくとも1つの画像における前記風景の各部分について、光強度を、前記最初の画像及び前記最後の画像における前記風景の各部分についての画素の光強度に基づいて内挿することと、
前記少なくとも1つの画像における前記画素の前記風景の各部分の数分の1に対応する前記風景の各部分の光強度の数分の1に基づいて、前記少なくとも1つの画像における前記画素の前記光強度を決定することと、
を行うように構成されることを含む、項目8に記載のカメラシステム。
項目10 超解像度画像を生成する方法であって、前記方法が、
検出器アレイによって、レンズを通して焦点面に集束された風景の画像を取得する段階であって、前記検出器アレイが、前記風景の各部分についての画素を提供する個別の検出器のアレイを含み、前記検出器アレイが、前記レンズまたは前記検出器アレイ及びそれにより前記焦点面が、前記検出器アレイの物理的構成によって定義される水平方向または垂直方向に沿って個別の検出器の長さだけ移動される移動量ごとに前記画像を取得する、画像を取得する段階と、
処理ユニットによって、前記画像における画素の光強度を決定し、前記光強度に基づいて、前記画素を、前記画素のうち参照画素に対して較正し、それによって前記個別の検出器のいずれかの感度差を補償する段階と、を含み、
前記画素の少なくともいくつかのうちの各画素について、前記画素の較正が、少なくとも、
前記風景の一部が前記画像のうち1つの画像における前記参照画素及び前記画像のうち別の画像における画素について同じであるような、前記画像のうち1つの画像の前記参照画素の光強度と、前記画像のうち別の画像における前記画素の光強度との比較を実行する段階と、
それに基づいて、少なくとも、前記参照画素の前記光強度と、前記画素の前記光強度とが異なるような場合に、前記画素の前記光強度の調整のための増幅因子を決定する段階であって、前記増幅因子が、前記参照画素の前記光強度の、前記画素の前記光強度に対する比であるか、またはその比から決定される、増幅因子を決定する段階と、
を含む、方法。
項目11 移動量ごとに前記画像を取得する段階が、少なくとも2つの移動量において前記画像を取得することを含み、前記移動量が、前記焦点面が前記水平方向に沿って前記個別の検出器の長さだけ移動される少なくとも1つの移動量と、前記焦点面が前記垂直方向に沿って前記個別の検出器の長さだけ移動される少なくとも1つの移動量と、を含む、項目10に記載の方法。
項目12 前記画素のうち少なくとも別のいくつかの画素の別の画素のそれぞれについて、前記別の画素を較正する段階が、少なくとも、
前記風景の一部が前記画像のうち1つの画像の画素及び前記画像のうち別の画像の別の画素について同じであるような、前記画像のうち1つの画像における画素の光強度の、前記画像のうち別の画像における別の画素の光強度に対する比を決定する段階と、
前記別の画素の前記光強度の調整のための増幅因子を決定する段階であって、前記増幅因子が、前記画素の前記光強度の調整のための前記増幅因子と、前記画素の前記光強度の、前記別の画素の前記光強度に対する比との積である、増幅因子を決定する段階と、を含む、項目10または11に記載の方法。
項目13 前記比較を実行する段階が、前記風景の一部が前記参照画素及び前記画素について同じであるような、前記画像の各対における前記参照画素の前記光強度と前記画素の前記光強度との比較を実行する段階を含み、
前記増幅因子を決定する段階が、前記画像の各対について、前記参照画素の前記光強度の、前記画素の前記光強度に対する比の平均を決定する段階を含む、項目10から12のいずれか一項に記載の方法。
項目14 前記画素のうちいずれかの特定の画素について、前記方法が、
前記風景の一部が、前記画像のうち1つの画像における前記参照画素及び、前記画像のうち別の画像における前記特定の画素について同じであるような、前記画像のうち1つの画像における前記参照画素の光強度と、前記画像のうち別の画像における前記特定の画素の光強度との比較を実行する段階と、
前記参照画素の光強度と前記特定の画素の光強度とが、不良画素を示す所定の閾値よりも大きな値だけ異なるような例において、前記特定の画素を不良画素として識別する段階を含む、項目10から13のいずれか一項に記載の方法。
項目15 前記レンズまたは前記検出器アレイに結合されたトランスデューサによって、前記レンズまたは前記検出器アレイ及びそれにより前記焦点面を動かす段階と、
前記トランスデューサと通信可能である制御ユニットによって、前記レンズまたは前記検出器アレイを動かすために、前記トランスデューサを制御する段階と、をさらに含む、項目10から14のいずれか一項に記載の方法。
項目16 前記画素の較正後に超解像度画像を生成する段階と、
前記トランスデューサによって、前記レンズまたは前記検出器アレイ及びそれにより前記焦点面を、前記検出器アレイが複数の画像を取得するように構成された所定の期間にわたって動かす段階と、
前記制御ユニットによって、前記画素をサブ画素に分割し、前記所定の期間の間、サブ画素の長さの移動量ごとに前記レンズまたは前記検出器アレイを動かすように前記トランスデューサを制御する段階と、
前記処理ユニットによって、前記複数の画像から、前記画素の光強度を、前記画素の少なくともいくつかの各画素について前記増幅因子を使用して決定し、前記画素の前記光強度から前記サブ画素の光強度を決定し、前記サブ画素の前記光強度をまとめて単一画像を生成する段階と、をさらに含む、項目15に記載の方法。
項目17 前記複数の画像が、最初の画像、最後の画像及びそれらの間の少なくとも1つの画像を有する一連の画像を含み、前記方法がさらに、少なくとも、
前記風景の一部が、前記最初の画像及び前記最後の画像の少なくとも一対の画素について同じであるような、前記最初の画像及び前記最後の画像における少なくとも一対の画素の光強度を比較することを実行する段階を含み、
前記少なくとも一対の画素の前記光強度が、前記風景の動きを示す所定の閾値よりも大きい量だけ異なるような少なくとも1つの場合において、前記画素の前記光強度を決定する段階が、前記最初の画像と前記最後の画像との間の少なくとも1つの画像における画素の光強度を、前記最初の画像及び前記最後の画像内の画素の前記光強度から内挿することによって決定する段階を含む、項目10から16のいずれか一項に記載の方法。
項目18 前記サブ画素の長さが、画素の数分の一に対応し、少なくとも1つの画像における前記画素の前記光強度を決定する段階が、少なくとも、
前記少なくとも1つの画像における前記風景の各部分について、光強度を、前記最初の画像及び前記最後の画像における前記風景の各部分についての画素の光強度に基づいて内挿する段階と、
前記少なくとも1つの画像における前記画素の前記風景の各部分の数分の1に対応する前記風景の各部分の光強度の数分の1に基づいて、前記少なくとも1つの画像における前記画素の前記光強度を決定する段階と、を含む、項目10から17のいずれか一項に記載の方法。
項目19 超解像度画像を生成するためのコンピュータ可読保存媒体であって、前記コンピュータ可読保存媒体が非一時的であり、内部に保存されたコンピュータ可読プログラムコード部分を有し、前記コンピュータ可読プログラムコード部分が、処理ユニットによる実行に応じて、装置に、少なくとも、
レンズを通して焦点面に集束された画像を取得するように構成された検出器アレイによる風景の画像における画素の光強度を決定する段階であって、前記検出器アレイが、前記風景の各部分についての画素を提供するように構成された個別の検出器のアレイを含み、前記検出器アレイが、前記レンズまたは前記検出器アレイ及びそれにより前記焦点面が、前記検出器アレイの物理的構成によって定義される水平方向または垂直方向に沿って個別の検出器の長さだけ移動される移動量ごとに前記画像を取得するように構成された、画素の光強度を決定する段階と、
前記光強度に基づいて、前記画素を、前記画素のうち参照画素に対して較正し、それによって前記個別の検出器のいずれかの感度差を補償する段階と、を実行させ、
前記画素のうち少なくともいくつかの各画素について、前記画素の較正を行うようにされる前記装置が、少なくとも、
前記風景の一部が前記画像のうち1つの画像における前記参照画素及び前記画像のうち別の画像における画素について同じであるような、前記画像のうち1つの画像の前記参照画素の光強度と、前記画像のうち別の画像における前記画素の光強度との比較を実行することと、
それに基づいて、少なくとも、前記参照画素の前記光強度と、前記画素の前記光強度とが異なるような場合に、前記画素の前記光強度の調整のための増幅因子を決定することであって、前記増幅因子が、前記参照画素の前記光強度の、前記画素の前記光強度に対する比であるか、またはその比から決定される、増幅因子を決定することと、
を行うようにされることを含む、コンピュータ可読保存媒体。
項目20 前記画素のうち少なくとも別のいくつかの画素の別の画素のそれぞれについて、前記別の画素を較正するようにされる前記装置が、少なくとも、
前記風景の一部が前記画像のうち1つの画像の画素及び前記画像のうち別の画像の別の画素について同じであるような、前記画像のうち1つの画像における画素の光強度の、前記画像のうち別の画像における別の画素の光強度に対する比を決定することと、
前記別の画素の前記光強度の調整のための増幅因子を決定する段階であって、前記増幅因子が、前記画素の前記光強度の調整のための前記増幅因子と、前記画素の前記光強度の、前記別の画素の前記光強度に対する比との積である、増幅因子を決定することと、
を行うようにされることを含む、項目19に記載のコンピュータ可読保存媒体。
項目21 前記比較を実行するようにされる前記装置が、前記風景の一部が前記参照画素及び前記画素について同じであるような、前記画像の各対における前記参照画素の前記光強度と前記画素の前記光強度との比較を実行するようにされることを含み、
前記増幅因子を決定するようにされる前記装置が、前記画像の各対について、前記参照画素の前記光強度の、前記画素の前記光強度に対する比の平均を決定するようにされることを含む、項目19または20に記載のコンピュータ可読保存媒体。
項目22 前記画素のうちいずれかの特定の画素について、前記装置が、
前記風景の一部が、前記画像のうち1つの画像における前記参照画素及び、前記画像のうち別の画像における前記特定の画素について同じであるような、前記画像のうち1つの前記参照画素の光強度と、前記画像のうち別の画像における前記特定の画素の光強度との比較を実行することと、
前記参照画素の光強度と前記特定の画素の光強度とが、不良画素を示す所定の閾値よりも大きな値だけ異なるような例において、前記特定の画素を不良画素として識別することと、
を行うようにされる、項目19から21のいずれか一項に記載のコンピュータ可読保存媒体。
本明細書に記載された本開示の多くの改良およびその他の実装例は、本開示が、前述の説明および関連する図面に示された教示の利益を有することと関連して、当業者が想到するであろう。したがって、本開示は、開示された特定の実装例に限定されるべきではなく、改良およびその他の実装例が、添付された特許請求の範囲に含まれることを意図されるものであることは理解されるべきである。さらに、前述の説明および関連する図面は、要素及び/または機能の特定の例示的な組み合わせについての例示的な実装例を説明しているが、要素及び/または機能の異なる組合せが、添付された特許請求の範囲から逸脱することなく、代替的な実装例として提供されうることは了解されるべきである。そのため、例えば、明示的に前述されたものとは異なる要素及び/または機能の組合せも、添付された特許請求の範囲の中に記載されうるものとして考慮される。特定の用語が本明細書で使用されているが、これらは一般的かつ説明的な意味で使用されているのみであり、限定の目的のために使用されるものではない。
100 カメラシステム
120 ターゲット画像
104 検出器アレイ
106、108 レンズ
110 アパーチャ
112 焦点面
114 検出器
116 トランスデューサ
118 制御ユニット
120 メモリ
122 第1の垂直辺
124 第1の水平辺
126 第2の垂直辺
128 第2の水平辺
129 白いサブ画素
130 サブ画素
131 灰色のサブ画素
132 第1の位置
133 黒いサブ画素
134 第1の画像
136 第2の位置
138 第2の画像
140 第3の位置
142 第3の画像
144 第4の位置
146 第4の画像
150 処理ユニット
152 単一の画像
154 頂部左側の検出器
156 左側の角
158 参照アレイ
160 6×6アレイ
162、164 境界
170、172、174 画像
176 単一の画像
220 解像度を向上させるためのプロセス
280 画素
280a 参照画素
280b 画素
280c 画素
282 物体
284 第1の位置
286 第1の画像
288 第2の位置
290 第2の画像
292 最初の画像
294 最後の画像
296 第2の画像
298 第3の画像
300 超解像度画像を生成するための方法
312 装置
314 プロセッサ
316 メモリ
318 コンピュータ可読プログラムコード
320 通信インターフェース
322 ディスプレイ
324 ユーザー入力インターフェース

Claims (15)

  1. 超解像度画像を生成するためのカメラシステム(100)であって、前記カメラシステム(100)が、
    レンズ(106、108)と、
    前記レンズ(106、108)を通して焦点面(112)に集束された風景の画像(102)を取得するように構成された検出器アレイ(104)であって、前記検出器アレイ(104)が、前記風景の各部分に対して画素を提供するように構成された個別の検出器(114)のアレイを含み、前記検出器アレイ(114)が、前記レンズ(106、108)または前記検出器アレイ(104)及びそれによって前記焦点面(112)が、前記検出器アレイ(104)の物理的構成によって定義された水平方向または垂直方向に沿って個別の検出器(114)の長さだけ動かされる移動量で、前記画像(102)を取得するように構成された、検出器アレイ(104)と、
    前記画像内の前記画素の光強度を決定し、前記画素を、前記光強度に基づいて前記画素のうちの参照画素に対して較正し、それによって前記個別の検出器(114)のいずれかの感度差を補償するように構成された処理ユニット(150)と、を含み、
    前記画素の少なくともいくつかのうちの各画素について、前記画素を較正するように構成された前記処理ユニット(150)が、少なくとも、
    前記風景の一部が前記画像のうちの1つの画像における前記参照画素及び前記画像(102)のうちの別の画像における前記画素について同じであるような、前記画像(102)のうちの1つの画像における前記参照画素の光強度と、前記画像(102)のうちの別の画像における画素の光強度との比較を行うことと、
    それに基づいて、少なくとも、前記参照画素の前記光強度と前記画素の前記光強度とが異なる場合において、前記画素の前記光強度の調整のために増幅因子を決定することであって、前記増幅因子が前記参照画素の前記光強度の、前記画素の前記光強度に対する比であるか、または前記比から決定される、増幅因子を決定することと、
    を行うように構成されることを含む、カメラシステム(100)。
  2. ある移動量ごとに前記画像を取得するように構成された前記検出器アレイ(104)が、少なくとも2つの移動量ごとに前記画像を取得するように構成されること、前記焦点面(112)が前記水平方向に沿って前記個別の検出器(114)の長さだけ移動される少なくとも1つの移動量及び、前記焦点面(112)が前記垂直方向に沿って前記個別の検出器(114)の長さだけ移動される少なくとも1つの移動量を含むこと、を含む、請求項1に記載のカメラシステム。
  3. 前記画素のうち少なくとも別のいくつかの画素のそれぞれについて、前記別の画素を較正するように構成された前記処理ユニット(150)が、少なくとも、
    前記風景の一部が前記画像(102)のうちの1つの画像における画素及び前記画像(102)のうち別の画像における別の画素について同じであるような、前記画像(102)のうち1つの画像における前記画素の光強度の、前記画像(102)のうち別の画像における別の画素の光強度に対する比を決定することと、
    前記別の画素の前記光強度の調整のための増幅因子を決定することであって、前記増幅因子が、前記画素の前記光強度の調整のための前記増幅因子と、前記画素の前記光強度の、前記別の画素の前記光強度に対する比との積である、増幅因子を決定することと、
    を行うように構成されることを含む、請求項1または2に記載のカメラシステム。
  4. 前記比較を実行するように構成された前記処理ユニット(150)が、前記風景の一部が前記参照画素及び前記画素について同じであるような、前記画像(102)の各対における前記参照画素の前記光強度と前記画素の前記光強度との比較を実行するように構成されることを含み、
    前記増幅因子を決定するように構成された前記処理ユニット(150)が、前記画像(102)の各対について前記参照画素の前記光強度の前記画素の前記光強度に対する比の平均を決定するように構成されることを含む、請求項1から3のいずれか一項に記載のカメラシステム。
  5. 前記画素のうちいずれかの特定の画素について、前記処理ユニット(150)が、
    前記風景の一部が前記画像のうち1つの画像における参照画素及び前記画像(102)のうち別の画像における特定の画素について同じであるような、前記画像(102)のうち1つの画像における前記参照画素の前記光強度と、前記画像(102)のうち別の画像における前記特定の画素の光強度との比較を実行することと、
    前記参照画素の前記光強度と前記特定の画素の前記光強度とが、不良画素を示す所定の閾値よりも大きい量だけ異なるような場合において、前記特定の画素を不良画素として識別することと、
    を行うように構成された、請求項1から4のいずれか一項に記載のカメラシステム。
  6. 前記レンズ(106、108)または前記検出器アレイ(104)に結合され、前記レンズ(106、108)または前記検出器アレイ(104)及びそれにより前記焦点面(112)を動かすように構成された、トランスデューサ(116)と、
    前記トランスデューサ(116)と通信可能であり、前記レンズ(106、108)または前記検出器アレイ(104)を動かすために前記トランスデューサ(116)を制御するように構成された、制御ユニット(118)と、をさらに含む、請求項1から5のいずれか一項に記載のカメラシステム。
  7. 前記カメラシステムが、前記画素の較正後に超解像度画像(152、168、176)を生成するように構成され、
    前記トランスデューサ(116)が、前記レンズ(106、108)または前記検出器アレイ(104)及びそれにより前記焦点面(112)を、前記検出器アレイ(104)が複数の画像を取得するように構成された所定の期間にわたって動かすように構成され、
    前記制御ユニット(118)が、前記画素をサブ画素に分割し、前記所定の期間の間、サブ画素(130)の長さの移動量ごとに前記レンズ(106、108)または前記検出器アレイ(104)を動かすように前記トランスデューサ(116)を制御するように構成され、
    前記処理ユニット(150)が、前記複数の画像(102)から、前記画素の光強度を、前記画素の少なくともいくつかの各画素について前記増幅因子を使用して決定し、前記画素の前記光強度から前記サブ画素(130)の光強度を決定し、前記サブ画素(130)の前記光強度をまとめて単一画像を生成するように構成された、請求項6に記載のカメラシステム。
  8. 前記複数の画像が、最初の画像、最後の画像及びそれらの間の少なくとも1つの画像を有する一連の画像を含み、前記処理ユニット(150)がさらに、少なくとも、
    前記風景の一部が、前記最初の画像及び前記最後の画像の少なくとも一対の画素について同じであるような、前記最初の画像及び前記最後の画像における少なくとも一対の画素の光強度を比較することを実行するように構成され、
    前記少なくとも一対の画素の前記光強度が、前記風景の動きを示す所定の閾値よりも大きい量だけ異なるような少なくとも1つの場合において、前記画素の前記光強度を決定するように構成された前記処理ユニット(150)が、前記最初の画像と前記最後の画像との間の少なくとも1つの画像における画素の光強度を、前記最初の画像及び前記最後の画像内の画素の前記光強度から内挿することによって決定するように構成されることを含む、請求項7に記載のカメラシステム。
  9. 前記サブ画素(130)の長さが、画素の数分の一に対応し、少なくとも1つの画像における前記画素の前記光強度を決定するように構成された前記処理ユニットが、少なくとも、
    前記少なくとも1つの画像における前記風景の各部分について、光強度を、前記最初の画像及び前記最後の画像における前記風景の各部分についての画素の光強度に基づいて内挿することと、
    前記少なくとも1つの画像における前記画素の前記風景の各部分の数分の1に対応する前記風景の各部分の光強度の数分の1に基づいて、前記少なくとも1つの画像における前記画素の前記光強度を決定することと、
    を行うように構成されることを含む、請求項8に記載のカメラシステム。
  10. 超解像度画像を生成する方法(300)であって、前記方法が、
    検出器アレイ(104)によって、レンズ(106、108)を通して焦点面(112)に集束された風景の画像を取得する段階(302)であって、前記検出器アレイ(104)が、前記風景の各部分についての画素を提供する個別の検出器(114)のアレイを含み、前記検出器アレイ(104)が、前記レンズ(106、108)または前記検出器アレイ(104)及びそれにより前記焦点面(112)が、前記検出器アレイ(104)の物理的構成によって定義される水平方向または垂直方向に沿って個別の検出器(114)の長さだけ移動される移動量ごとに前記画像を取得する、画像を取得する段階(302)と、
    処理ユニット(150)によって、前記画像における画素の光強度を決定し、前記光強度に基づいて、前記画素を、前記画素のうち参照画素に対して較正し、それによって前記個別の検出器(114)のいずれかの感度差を補償する段階(304)と、を含み、
    前記画素の少なくともいくつかのうちの各画素について、画素の較正(306)が、少なくとも、
    前記風景の一部が前記画像のうち1つの画像における前記参照画素及び前記画像のうち別の画像における画素について同じであるような、前記画像のうち1つの画像の前記参照画素の光強度と、前記画像のうち別の画像における前記画素の光強度との比較を実行する段階(308)と、
    それに基づいて、少なくとも、前記参照画素の前記光強度と、前記画素の前記光強度とが異なるような場合に、前記画素の前記光強度の調整のための増幅因子を決定する段階(310)であって、前記増幅因子が、前記参照画素の前記光強度の、前記画素の前記光強度に対する比であるか、またはその比から決定される、増幅因子を決定する段階(310)と、
    を含む、方法(300)。
  11. 移動量ごとに前記画像を取得する段階が、少なくとも2つの移動量において前記画像を取得することを含み、前記移動量が、前記焦点面(112)が前記水平方向に沿って前記個別の検出器(114)の長さだけ移動される少なくとも1つの移動量と、前記焦点面(112)が前記垂直方向に沿って前記個別の検出器(114)の長さだけ移動される少なくとも1つの移動量と、を含む、請求項10に記載の方法。
  12. 前記画素のうち少なくとも別のいくつかの画素の別の画素のそれぞれについて、前記別の画素を較正する段階が、少なくとも、
    前記風景の一部が前記画像のうち1つの画像の画素及び前記画像のうち別の画像の別の画素について同じであるような、前記画像のうち1つの画像における画素の光強度の、前記画像のうち別の画像における別の画素の光強度に対する比を決定する段階と、
    前記別の画素の前記光強度の調整のための増幅因子を決定する段階であって、前記増幅因子が、前記画素の前記光強度の調整のための前記増幅因子と、前記画素の前記光強度の、前記別の画素の前記光強度に対する比との積である、増幅因子を決定する段階と、を含む、請求項10または11に記載の方法。
  13. 前記比較を実行する段階(308)が、前記風景の一部が前記参照画素及び前記画素について同じであるような、前記画像の各対における前記参照画素の前記光強度と前記画素の前記光強度との比較を実行する段階を含み、
    前記増幅因子を決定する段階が、前記画像の各対について、前記参照画素の前記光強度の、前記画素の前記光強度に対する比の平均を決定する段階を含む、請求項10から12のいずれか一項に記載の方法。
  14. 前記画素のうちいずれかの特定の画素について、前記方法が、
    前記風景の一部が、前記画像のうち1つの画像における前記参照画素及び、前記画像のうち別の画像における前記特定の画素について同じであるような、前記画像のうち1つの画像における前記参照画素の光強度と、前記画像のうち別の画像における前記特定の画素の光強度との比較を実行する段階と、
    前記参照画素の光強度と前記特定の画素の光強度とが、不良画素を示す所定の閾値よりも大きな値だけ異なるような例において、前記特定の画素を不良画素として識別する段階を含む、請求項10から13のいずれか一項に記載の方法。
  15. 前記レンズ(106、108)または前記検出器アレイ(104)に結合されたトランスデューサ(116)によって、前記レンズ(106、108)または前記検出器アレイ(104)及びそれにより前記焦点面(112)を動かす段階と、
    前記トランスデューサ(116)と通信可能である制御ユニット(118)によって、前記レンズ(106、108)または前記検出器アレイ(104)を動かすために、前記トランスデューサ(116)を制御する段階と、をさらに含む、請求項10から14のいずれか一項に記載の方法。
JP2018120682A 2017-08-03 2018-06-26 超解像度画像を生成するための画素の較正 Active JP7111528B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/668,310 2017-08-03
US15/668,310 US10264191B2 (en) 2017-08-03 2017-08-03 Calibration of pixels for producing super resolution images

Publications (2)

Publication Number Publication Date
JP2019029999A JP2019029999A (ja) 2019-02-21
JP7111528B2 true JP7111528B2 (ja) 2022-08-02

Family

ID=63254511

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018120682A Active JP7111528B2 (ja) 2017-08-03 2018-06-26 超解像度画像を生成するための画素の較正

Country Status (4)

Country Link
US (1) US10264191B2 (ja)
EP (1) EP3439286B1 (ja)
JP (1) JP7111528B2 (ja)
CN (1) CN109391752B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6684382B2 (en) 2001-08-31 2004-01-27 Numerical Technologies, Inc. Microloading effect correction

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11595573B2 (en) * 2021-06-25 2023-02-28 Hewlett-Packard Development Company, L.P. Adjustable imaging devices

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004214890A (ja) 2002-12-27 2004-07-29 Minolta Co Ltd 固体撮像装置
JP2007189370A (ja) 2006-01-12 2007-07-26 Nissan Motor Co Ltd 撮像装置、および多素子検出器の補正方法
US20120249799A1 (en) 2011-03-30 2012-10-04 Yukiko Shibata Image capture device, pixel output level compensation method for same, infrared camera system, and interchangeable lens system
US20160093021A1 (en) 2014-09-29 2016-03-31 The Boeing Company Move Based and Sonic Based Super Resolution

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5400070A (en) 1992-10-07 1995-03-21 Eastman Kodak Company Lever actuated optical offset image sampling system
EP0669757B1 (en) 1994-02-28 2002-11-27 Canon Kabushiki Kaisha Image sensing apparatus
US5514865A (en) 1994-06-10 1996-05-07 Westinghouse Electric Corp. Dither image scanner with compensation for individual detector response and gain correction
US5789622A (en) 1996-09-12 1998-08-04 Trw Inc. Focal plane array calibration method
JP4536170B2 (ja) 1996-12-27 2010-09-01 シャープ株式会社 撮像装置
US6184527B1 (en) 1997-08-26 2001-02-06 Raytheon Company Dither correction for infrared detector arrays
US6208765B1 (en) 1998-06-19 2001-03-27 Sarnoff Corporation Method and apparatus for improving image resolution
JP2002209223A (ja) * 2001-01-09 2002-07-26 Sony Corp 画像処理装置および方法、並びに記録媒体
US7218751B2 (en) 2001-06-29 2007-05-15 Digimarc Corporation Generating super resolution digital images
US9270868B2 (en) 2005-03-15 2016-02-23 Hewlett-Packard Development Company, L.P. Charge coupled device
US7884861B2 (en) 2005-03-22 2011-02-08 Microview Technologies PTD Ltd. Image resolution multiplier
US7657000B2 (en) 2006-11-27 2010-02-02 Cmt Medical Technologies Ltd. Method and apparatus for dual energy radiography
JP4356777B2 (ja) * 2007-06-18 2009-11-04 ソニー株式会社 画像処理装置、画像処理方法、プログラム、及び記録媒体
JP5523017B2 (ja) * 2009-08-20 2014-06-18 キヤノン株式会社 画像処理装置及び画像処理方法
US9083948B2 (en) * 2012-07-18 2015-07-14 Qualcomm Incorporated Crosstalk reduction in multiview video processing
DE102013114996A1 (de) * 2013-01-07 2014-07-10 GM Global Technology Operations LLC (n. d. Gesetzen des Staates Delaware) Bildsuperauflösung für dynamischen Rückspiegel

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004214890A (ja) 2002-12-27 2004-07-29 Minolta Co Ltd 固体撮像装置
JP2007189370A (ja) 2006-01-12 2007-07-26 Nissan Motor Co Ltd 撮像装置、および多素子検出器の補正方法
US20120249799A1 (en) 2011-03-30 2012-10-04 Yukiko Shibata Image capture device, pixel output level compensation method for same, infrared camera system, and interchangeable lens system
JP2012209848A (ja) 2011-03-30 2012-10-25 Tamron Co Ltd 撮像装置、その画素出力レベル補正方法、赤外線カメラシステム及び交換可能なレンズシステム
US20160093021A1 (en) 2014-09-29 2016-03-31 The Boeing Company Move Based and Sonic Based Super Resolution

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6684382B2 (en) 2001-08-31 2004-01-27 Numerical Technologies, Inc. Microloading effect correction

Also Published As

Publication number Publication date
US20190045106A1 (en) 2019-02-07
US10264191B2 (en) 2019-04-16
CN109391752B (zh) 2021-08-10
EP3439286A1 (en) 2019-02-06
CN109391752A (zh) 2019-02-26
JP2019029999A (ja) 2019-02-21
EP3439286B1 (en) 2022-05-04

Similar Documents

Publication Publication Date Title
US20230362344A1 (en) System and Methods for Calibration of an Array Camera
JP5649091B2 (ja) 画像キャプチャ装置および画像キャプチャ方法
JP5929553B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
US9843788B2 (en) RGB-D imaging system and method using ultrasonic depth sensing
JP2012123296A (ja) 電子機器
JP2020042801A (ja) イメージ復元方法及び装置
JP2009288042A (ja) 距離測定装置
JP7111528B2 (ja) 超解像度画像を生成するための画素の較正
CN104427251A (zh) 焦点检测设备、其控制方法、以及摄像设备
CN104581137A (zh) 检测设备、摄像设备、摄像系统和检测设备的控制方法
US20150287208A1 (en) Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium
US11812137B2 (en) Measurement apparatus, image capturing apparatus, control method, and recording medium
US10084978B2 (en) Image capturing apparatus and image processing apparatus
JP5493900B2 (ja) 撮像装置
US9430814B2 (en) Move based and sonic based super resolution
JP5939945B2 (ja) 移動物体の位置検出装置及び方法
JPWO2017199559A1 (ja) 撮像装置、撮像方法、プログラム、及び非一時的記録媒体
JP2022545748A (ja) Tofカメラ
JP6625184B2 (ja) 焦点検出装置、撮像装置、焦点検出方法および焦点検出プログラム
WO2018030135A1 (ja) 撮像装置および画像処理方法
KR100999887B1 (ko) 색온도구역 설정 방법, 색온도구역을 이용한 색온도 검출 방법, 색온도구역을 이용한 색온도 검출 방법을 기록한 기록매체 및 색온도구역을 이용한 색온도 검출 방법을 수행하는 촬상 장치
JP2018066931A5 (ja)
KR20210114846A (ko) 고정된 기하학적 특성을 이용한 카메라 모듈, 촬상 장치 및 이미지 처리 방법
JP2024060961A (ja) 画像処理装置、撮像装置、制御方法及びプログラム
JP2018010266A (ja) 焦点検出装置および焦点検出方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210614

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220520

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220627

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220721

R150 Certificate of patent or registration of utility model

Ref document number: 7111528

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150