JP2005352721A - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP2005352721A
JP2005352721A JP2004172094A JP2004172094A JP2005352721A JP 2005352721 A JP2005352721 A JP 2005352721A JP 2004172094 A JP2004172094 A JP 2004172094A JP 2004172094 A JP2004172094 A JP 2004172094A JP 2005352721 A JP2005352721 A JP 2005352721A
Authority
JP
Japan
Prior art keywords
image
imaging device
motion estimation
frames
readout
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004172094A
Other languages
English (en)
Other versions
JP4184319B2 (ja
Inventor
Nobuyuki Watanabe
伸之 渡辺
Tomoyuki Nakamura
智幸 中村
Takahiro Yano
高宏 矢野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2004172094A priority Critical patent/JP4184319B2/ja
Priority to US11/628,909 priority patent/US7868923B2/en
Priority to PCT/JP2005/011004 priority patent/WO2005122554A1/ja
Publication of JP2005352721A publication Critical patent/JP2005352721A/ja
Application granted granted Critical
Publication of JP4184319B2 publication Critical patent/JP4184319B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/42Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by switching between different modes of operation using different resolutions or aspect ratios, e.g. switching between interlaced and non-interlaced mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/445Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by skipping some contiguous pixels within the read portion of the array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/447Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by preserving the colour pattern with or without loss of information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/48Increasing resolution by shifting the sensor relative to the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)

Abstract

【課題】 1フレームのクロック数の変動をせずに、電子的に撮像領域の大きさを変更し、取り込んだ領域に対して、超解像処理を行う撮像装置の提供。
【解決手段】 光学系101はイメージャ102に光学像を結像し、読み出し制御部104は倍率指定部103によって指定した倍率に応じて、イメージャの読み出し規則を選択する。イメージャ102は読み出し規則に従って、指定の領域の光学像を電気信号に変換する。読み出された画像信号は、n個の画像メモリ105-1から105-nに格納される。ここでnは超解像処理を行うのに必要な画像の枚数である。超解像処理はモーションの推定107と、高解像度の画素配列の画像データを推定する高解像度画像推定部108により構成されている。セレクタ106はモーション推定を行う基準の画像と、モーション推定の対象の画像を選択する。
【選択図】 図1

Description

本発明は、画素数の少ない画像入力手段を利用して高解像度の画像を生成する撮像装置に関するものである。
ビデオカメラなどの撮像装置を使用する際に、画素数の少ない画像データを用いて高解像度の画像を生成する方法が種々提案されている。その一例として、例えば特許文献1などで提案されているように、超解像技術を用いて、位置ずれを持った複数フレームの低解像度画像を用いて高解像度の画像を生成する方法がある。超解像処理は、サブピクセルレベルでの位置ずれのある画像を複数枚撮影し、これらの画像の劣化要因などをキャンセルした上で合成して、1枚の高精細な画像を形成する手法である。
ところで、ビデオ撮影のように1フレームのクロック数に制限があり、撮像デバイスの画素数が出力する画像の画素数よりも多くなるような撮像システムを用いる場合がある。このような撮像システムを用いる場合に、有効な超解像処理を行うためには、撮像デバイスの一部分のみのデータを読み出し、その領域に対して超解像処理を行う必要がある。しかしながらこの場合には、超解像処理を行う画角の変更は光学的な像倍率の変更を必要とする。
特開平10−69537号公報
画素数の少ない画像データを用いて高解像度の画像を生成する際に、特許文献1に開示されている手法では、前記のように超解像処理を行う画角の変更は光学的な像倍率の変更をしなければならず、処理が煩雑になるという問題があった。
本発明は、上記問題に鑑みてなされたものであり、フレームのクロック数が変動することなく、電子的に撮像領域の大きさを変更し、さらに、取り込んだ領域に対して、超解像処理を行う構成とした撮像装置の提供を目的とする。
(1).上記目的を達成するために、本発明の撮像装置は、被写体の像を電子的に得る撮像装置において、
被写体の像を撮像デバイスに結像する光学的結像手段と、所定領域の画像信号を出力することができる撮像デバイスと、前記撮像デバイスからの出力領域を設定する領域設定部と、領域設定部で設定した領域の大きさに応じて前記撮像デバイスの読み出し規則を選択する手段と、前記撮像デバイスから出力される複数のフレームの画像信号から高解像度な画像を生成する手段とを備えた事を特徴とする。
(1)の発明は、図1に示された実施形態が対応する。「被写体の像を撮像デバイスに結像する光学的結像手段」は、光学系101が該当する。「所定領域の画像信号を出力することができる撮像デバイス」は、イメージャ102が該当する。「前記撮像デバイスからの出力領域を設定する領域設定部」は、倍率指定部103が該当する。「領域設定部で設定した領域の大きさに応じて前記撮像デバイスの読み出し規則を選択する手段」は、読み出し制御部104が該当する。「撮像デバイスから出力される複数のフレームの画像信号から高解像度な画像を生成する手段」は、高解像度画像推定部108が該当する。(1)の発明の構成によれば、電子的に撮像領域の大きさを変更し、さらに、取り込んだ領域に対して超解像処理を行うことができる。
(2).また、前記(1)の発明は、前記撮像デバイスの読み出し規則は、前記出力領域の大きさによらず画素の読み出しの総クロック数が一定である事を特徴とする。(2)の発明は、図2の実施形態が対応する。「前記撮像デバイスの読み出し規則は、前記出力領域の大きさによらず画素の読み出しの総クロック数が一定である事」は、「read/skipのパターンは倍率指定部103による倍率に対応して変更される」処理が該当する。この構成によれば、1フレームのクロック数を一定に保持しながら、イメージャの読み出し制御の機能で読み出しの領域の広さを変更できる。
(3).また、前記(2)の発明は、前記撮像デバイスの読み出し規則を、フレーム毎に異ならせる手段を有することを特徴とする。(3)の発明は、図2の実施形態が対応する。「前記撮像デバイスの読み出し規則をフレーム毎に異ならせる手段」は、「読み出し制御部104により、ODD(奇数),EVEN(偶数)の2フレームの周期で読み出しの規則を変更する処理」が該当する。この構成によれば、フレーム毎に画像情報を異ならせ、互いに欠落している情報を補完することができる。
(4).また、前記(3)の発明は、前記複数のフレームの画像信号から高解像度な画像を生成する手段が、複数フレーム間のモーションを推定する手段と、モーション推定がなされた複数フレームの画像信号を用いて高解像度画像信号を推定する手段よりなり、前記複数フレーム間のモーション推定を行うときに、互いに同一の読み出し規則を選択する手段を有することを特徴とする。
(4)の発明は、図1、図8の実施形態が対応する。「複数フレーム間のモーションを推定する手段」は、モーション推定部107が該当する。また、「モーション推定がなされた複数フレームの画像信号を用いて高解像度画像信号を推定する手段」は、高解像度画像推定演算部108が該当する。モーション推定部107は、図8に示されているように、同一の読み出し規則によるフレームを選択してモーションを推定する。(4)の発明によれば、画像信号の特性に応じたモーション推定を行うことができる。
(5).また、前記(4)の発明は、前記複数フレーム間のモーション推定を行うときに、同一の読み出し規則のフレームを選択してモーション推定を行い、さらに、連続するフレーム間のモーション推定演算を行う手段を有することを特徴とする。(5)の発明は、図1、図9の実施形態が対応する。モーション推定部107は、図9に示されているように、前記複数フレーム間のモーション推定を行うときに、同一の読み出し規則のフレームを選択してモーション推定を行い、さらに、連続するフレーム間のモーション推定演算を行う。(5)の発明によれば、モーション推定の形態を多様化することができる。
(6).また、前記(2)、または(3)の発明は、前記撮像デバイスの読み出し規則が、画素を離間的に読み出す間引き読み出しであることを特徴とする。(6)の発明は、図2の実施形態が対応する。「前記撮像デバイスの読み出し規則が画素を離間的に読み出す間引き読み出しであること」は、図2のskip処理が該当する。このような間引き読み出しを行うことにより、出力する画素数よりも広い領域の読み出しをした場合でもクロック数を一定にすることができる。
(7).また、前記(6)の発明は、前記撮像デバイスの間引き読み出しを行った後、間引き読み出しによる歪みの補正処理を行う手段を有することを特徴とする。(7)の発明は、図13の実施形態が対応する。「前記撮像デバイスの間引き読み出しを行った後、間引き読み出しによる歪みの補正処理を行う手段」は、歪み補正処理部113が該当する。この構成により、間引き読み出しを行った画像の歪みを補正し、更に前記(3)のようにフレーム毎に異なる読み出し規則を使用している場合でも、連続するフレーム間でモーション推定ができる。
(8).また、前記(7)の発明は、前記歪みの補正処理が同一フレーム内の画素演算処理であることを特徴とする。(8)の発明は、図11、図12の実施形態が対応する。「前記歪みの補正処理が同一フレーム内の画素演算処理であること」は、図12の線形補間パラメータk1、k2による補正処理が該当する。この構成によれば、歪みの補正処理が簡略化される。
本発明の撮像装置においては、1フレームのクロック数が変動することなく、電子的に撮像領域の大きさを変更し、さらに、取り込んだ領域に対して、超解像処理を行うことができる。
以下、本発明の実施形態例について図を参照して説明する。図1は第1の実施形態例の構成図である。図1において、光学系101はイメージャ102に光学像を結像する。倍率指定部103によって指定した倍率に応じて、読み出し制御部104はイメージャの読み出し規則を選択する。読み出し規則とは、後述するように、イメージャ上での読み出しの開始位置と間引き読み出しの規則を表す。イメージャ102は読み出し規則に従って、指定の領域の光学像を電気信号に変換する。
読み出された画像信号は、n個の画像メモリ105-1から105-nに格納される。ここでnは超解像処理を行うのに必要な画像の枚数である。超解像処理はモーションの推定107と、高解像度の画素配列の画像データを推定する高解像度画像推定部108により構成されている。セレクタ106はモーション推定を行う基準の画像と、モーション推定の対象の画像を選択する。
図2は、読み出し制御部104で選択される読み出し規則である、間引き読み出しの例を示す説明図である。この例では、出力する画素数に対してx方向に4/3倍、y方向の4/3倍の広さの領域の読み出しを行っている。図1-104の読み出し制御部では、フレーム毎に読み出しの規則を異ならせる機能を有する。図2では、ODD(奇数),EVEN(偶数)の2フレームの周期で読み出しの規則を変更している。
ODDおよびのEVENの横方向画素は、1行目がRGRG・・・の配列、2行目がGBGB・・・の配列、3行目がRGRG・・・の配列、4行目がGBGB・・・の配列、と繰り返されている。また、縦方向の画素は、1列目がRGRG・・・の配列、2列目がGBGB・・・の配列、3列目がRGRG・・・の配列、4列目がGBGB・・・の配列、と繰り返されている。
図2でreadは画素の読み出しを行っている位置を示し、skip(太い斜線)は読み出しを行っていない位置を示している。skipの位置では読み出しのクロックは発生していない。read/skipのパターンは、倍率指定部103による倍率に対応して変更される。従って、このような読み出しを行うことで、1フレームのクロック数を一定に保持しながら、イメージャの読み出し制御の機能で読み出しの画角が変更できる。
図3は、モーション推定のアルゴリズムを示すフローチャートである。以下、図3のアルゴリズムの流れにそって説明する。S1:モーション推定の基準となる画像を1枚読み込む。S2:基準画像を複数のモーションで変形させる。S3:基準画像との間のモーション推定を行う参照画像を1枚読み込む。S4:基準画像を複数変形させた画像列と、参照画像の間の類似度値を算出する。S5:変形モーションのパラメータと算出した類似度値との関係を用いて、離散的な類似度マップを作成する。
S6:S5で作成した離散的な類似度マップを補完することで、類似度マップの極値を探索し、類似度マップの極値を求める。極値を持つ変形モーションが、推定したモーションとなる。類似度マップの極値の探索法には、パラボラフィッティング、スプライン補間法等がある。S7:全ての参照画像においてモーション推定を行っているかどうかを判定する。S8:全ての参照画像においてモーション推定を行っていない場合には、参照画像のフレーム番号を1つあげてS3の処理へ戻り、次の画像を読み込み処理を継続する。対象となる全ての参照画像においてモーション推定を行い、処理を終了する。
図4は、図1で説明したモーション推定部107で行うモーション推定の最適類似度の推定を示す概念図である。図では簡単のため、一次元の最適類似度を示しているが、二次元の最適類似度も同様の手法で推定される。図4においては、黒丸の3点を用いてモーション推定をパラボラフィッティングで行った例を示している。縦軸は類似度を表し、横軸は変形モーションパラメータを示している。縦軸の値が小さいほど類似度が高く、縦軸の値が最小値となる灰色の丸は類似度の極値となる。
図5は、高解像度画像推定処理の実施形態のアルゴリズムを示すフローチャートである。S11:高解像度画像推定に用いるため複数枚の低解像度画像n枚を読み込む(n≧1)。S12:複数枚の低解像度画像の中の任意の一枚をターゲットフレームと仮定し、補完処理を行うことで初期の高解像度画像を作成する。このステップは場合により省略することができる。S13:あらかじめ何らかのモーション推定法で求められた、ターゲットフレームとその他のフレームの画像間のモーションにより、画像間の位置関係を明らかにする。S14:光学伝達関数(OTF)、CCDアパーチャ等の撮像特性を考慮した点広がり関数(PSF)を求める。PSFは例えばGauss関数を用いる。S15:S13、S14、の情報を元に、評価関数f(z)の最小化を行う。ただし、f(z)は(1)式のような形となる。
Figure 2005352721
ここでyは低解像度画像、zは高解像度画像、Aは画像間モーション、PSF等を含めた撮像システムをあらわす画像変換行列である。g(z)は画像の滑らかさや色相関を考慮した拘束項等が入る。λは重み係数である。評価関数の最小化には、例えば最急降下法を用いる。S16:S15で求めたf(z)が最小化された場合、処理を終了し高解像度画像zを得る。S17:f(z)がまだ最小化されていない場合には、高解像度画像zをアップデートしてS15に戻る。
図6は、前記アルゴリズムを実施する際の超解像処理の構成を示す構成図である。図6において、高解像度画像推定演算部108は、補間拡大部61、畳込み積分部62、PSFデータ保持部63、画像比較部64、乗算部65、貼り合せ加算部66、蓄積加算部67、更新画像生成部68、画像蓄積部69、反復演算判定部610、反復判定値保持部611から構成される。
最初に、画像メモリ105-1〜105-nに記録された複数フレーム分の画像データのうち、基準となる任意の1枚の画像データを補間拡大部61に与え、補間拡大部61でこの画像の補間拡大を行う。ここで用いられる補間拡大の手法としては、例えば一般的なバイリニア補間やバイキュービック補間などが挙げられる。補間拡大された画像は、畳込み積分部62に与えられ、PSFデータ保持部63より与えられるPSFデータと畳込み積分される。ここでのPSFデータは、各フレームのモーションも考慮して与えられる。補間拡大された画像データは同時に画像蓄積部69に送られ、ここに蓄積される。
畳込み演算された画像データは画像比較部64に送られ、モーション推定部107で求められた各フレーム毎のモーションを元に、適切な座標位置で撮像部より与えられる撮影画像と比較される。比較された残差は乗算部65に送られ、PSFデータ保持部63より与えられるPSFデータの各画素毎の値に掛け合わされる。この演算結果は貼り合せ加算部66に送られ、それぞれ対応する座標位置に置かれる。ここで、乗算部65からの画像データは、重なりを持ちながら少しずつ座標位置がずれて行くことになるので重なる部分については加算していく。撮影画像1枚分のデータの貼り合せ加算が終ると、画像データは蓄積加算部67に送られる。
蓄積加算部67では、フレーム数分の処理が終るまで順次送られてくるデータを蓄積し、推定されたモーションに合わせて各フレーム分の画像データを順次加算していく。加算された画像データは、更新画像生成部68に送られる。更新画像生成部68には、これと同時に画像蓄積部69に蓄積されていた画像データが与えられ、この2つの画像データに重みをつけて加算して更新画像データを生成する。
生成された更新画像データは反復演算判定部610に与えられ、反復判定値保持部611から与えられる反復判定値を元に、演算を反復するか否かを判断する。演算を反復する場合には、データを畳込み積分部62に送り前記の一連の処理を繰り返し、反復しない場合は生成された画像データを出力する。上記一連の処理を行い反復演算判定部610から出力される画像は、撮影画像よりも高解像度なものとなっている。また、前記PSFデータ保持部63で保持されるPSFデータには、畳込み積分の際に適切な座標位置での計算が必要となるので、モーション推定部107より各フレーム毎のモーションが与えられるようになっている。
図2の様な間引き読み出しを行った画像に対して、モーション推定を行うには、以下の3つ実施形態がある。(1)同じ読み出し規則を行うフレーム間でモーションの推定を行い、連続するフレーム間でのモーション推定の補間を行わない。(2)同じ読み出し規則を行うフレーム間でモーションの推定を行い、連続するフレーム間でのモーション推定の補間を行う。(3)各フレーム内で欠落している画素データの推定を行い、連続するフレーム間でのモーションの推定を行う。
(1),(2)の手法では、図2に示すように、ODD,EVENでそれぞれ同じ読み出し規則で読み出しており、これらのフレーム間で、モーションの推定を行う。モーション推定を行う場合に、図2の様な読み出し方で、画像信号を得た後に、画像メモリに蓄え、読み飛ばした位置を考慮してモーション推定を行う。すなわち、2フレームの間で被写体の像が読み飛ばした位置にかかる場合や、前のフレームでは読み飛ばした位置にあるものが、出現する場合を考慮してモーションの推定に拘束条件を付ける。
図7は、間引き読み出しに対するモーション推定の概念図である。図7に示されているように、(1)の場合、ODD、EVENのそれぞれのフレーム列だけで、高解像度画像の推定を行う。図8は、連続フレームのモーション推定の概念図である。図8に示されているように、(2)の場合、ODD,EVENのそれぞれでモーションの推定を行った後に、連続するフレームのモーションの推定を行う。
連続フレームのモーションの推定は、例えば平均化処理による補間処理でも良い。例えばIフレームとI+2フレームのモーションa、I+1,I+3のモーションa'がそれぞれベクトルとして求まり、I+2フレームからaの1/2の大きさのモーションを差し引き、これをI+1とI+2の間のモーションの候補値とする。これとa'の1/2のモーションとの加算平均をとり、平均値処理による連続フレームのモーションの推定値とする。
図9は、連続フレームのモーション推定の概念図である。図9に示すように、(3)の場合、連続するフレームの画像信号データからそれぞれのフレーム内での補間処理を行い、フレーム間のデータを対応させる。このように、図2に示した例の読み出し規則に対して、間引き読み出しによって生じた画像の歪みを補正する処理を歪み補正処理と称することにする。
図10は、フレーム内補間(歪み補正)処理後に連続フレームのモーション推定を行う概念図である。図10では、iフレームとi+1フレームのそれぞれについて歪み補正処理を行い、その後モーションデータ補間処理部で連続フレームのモーション推定を行っている。すなわち、図10の例では、歪み補正処理を含む実施の形態を示している。
図11は、歪み補正処理の概念図である。図11により歪み補正処理の詳細について説明する。図11の例では、Bayer配列のR-Gラインの水平方向R0〜G7の8画素のうち、G3およびR6の2画素を飛び越して読み出した画像データから、等間隔のR-G-R-G…の配列を生成する処理の概念図を示している。処理の概要は、(1)読み出した画素データから欠落している画素のデータの推定値を算出し8画素のデータとして、(2)8画素から6画素のデータを生成する縮小処理を行う。
このとき、欠落した画素の値を推定する方法としては、図11(a)のように補間・縮小の2段階処理でも良いが、図11(b)のように1回の補間処理を用いる方式でも良い。これは後述の(3)式のような線形変換で表せる。一方縮小処理としては、以下に述べるような1次補間でも良いし、3次補間を用いても良い。また、3次補間の場合も図11(b)や後述の(3)式と同様に、1回の線形変換に簡略化できる。間引き読み出し、歪み補正処理において、8画素中6画素を読み出しでいれば75%の縮小処理になる。あるいは、10画素中8画素で有れば80%、12画素中10画素であれば83%となる。
以下に、欠落した画素を線形補間で埋めて、サイズ変更として線形補間を用いる方法を行列形式で表したものを(2)式に示す。
Figure 2005352721
(2)式の右辺の2項目の操作は、
R(i),G(i+1),R(i+2),R(i+4),G(i+5),G(i+7),R(i+8)・・・
のようにサンプリングした画像データを補間して、
R(i),G(i+1),R(i+2),G ̄(i+3),R(i+4),G(i+5),R ̄(i+8),G(i+7)・・・
を生成し、右辺1項目の操作は線形補間により8画素を6画素に変換する操作を示している。
これらの操作を合成すると(3)式のような線形変換になる。
Figure 2005352721
図12は、歪み補正処理のフィルタ構成を示す構成図である。図12に示すように、この操作を実行する構成はパイプライン処理としている。図12において、シフトレジスタ901は6タップのFIFOになっており、1画素毎にシフトするように構成されている。i-i5は画素データが入るシフトレジスタを表し、s1,s2はセレクタの信号を表している。s1,s2には-1,0,1,2の4種の値が入る。値の範囲に限定は無く4種の値で有れば良い。d1,d2はセレクタ902、903の出力、k1,k2は線形補間のパラメータで、加算器904の出力値はk1・d1+k2・d2となる。図12の構成で、1画素クロック毎に演算を行うときの論理表を表1に示す。
Figure 2005352721
表1の論理表は、行方向に1画素クロックの状態を示しており、画素データがC1 <= C2 <= C3の様にシフトしている。
また、欠落した画素の輝度レベルの推定においては、前述したような同一チャンネルの1次補間あるいは、同一チャンネルの3次補間、sinc関数等の線形補間以外にも、R、G、Bチャンネル間の相関関係を用いた補間方法を用いることが出来る。
欠落した画素の輝度レベルの推定値は、(4)式、あるいは(5)式で与えられる。
Figure 2005352721
Figure 2005352721
図2のような離間的な読み出しを行った後に、(4)式、あるいは(5)式により欠落画素の推定を行うことで、読み出し方式が異なる隣接フレーム間でのモーション推定が出来る。
図13は、上述した歪み補正手段(歪補正処理部113)を備えた実施形態の構成を示す構成図である。歪み補正処理がなされた画像データは、画像メモリ105-1〜105-nに保持される。その後、前述のようにフレーム間のモーション推定が行われ、図6に示した構成の高解像度画像推定演算部108により、推定高解像度画像を得る。
以上説明したように、本発明によれば、1フレームのクロック数の変動をせずに、電子的に撮像領域の大きさを変更し、さらに、取り込んだ領域に対して、超解像処理を行う撮像装置を提供することができる。
第1の実施形態例の構成図である。 間引き読み出しの例を示す説明図である。 モーション推定アルゴリズムのフローチャートである。 モーション推定の最適類似度の推定を示す概念図である。 高解像度画像推定のフローチャートである。 超解像処理の構成を示す構成図である。 間引き読み出しに対するモーション推定の概念図である。 連続フレームのモーション推定の概念図である。 連続フレームのモーション推定の概念図である。 フレーム内補間(歪み補正)処理後に連続フレームのモーション推定を行う概念図である。 歪み補正処理の概念図である。 歪み補正処理のフィルタ構成を示す構成図である。 歪み補正処理部を含む実施形態の構成図である。
符号の説明
101・・・光学系、102・・・イメージャ、103・・・倍率設定器、104・・・読み出し制御部、105−1〜105−n・・・画像メモリ、
105・・・帯域分離処理部、106・・・超解像目的フレーム選択部、107・・・モーション推定部、108・・・高解像度画像推定部、109・・・補間拡大処理部、110・・・合成演算処理部、112・・・高解像画像演算領域判定部、113・・・メモリ部、1051・・・ローパスフィルタ、1052・・・バイアス加算処理部、1053・・・差分演算処理部、1101・・・重み係数生成部

Claims (8)

  1. 被写体の像を電子的に得る撮像装置において、
    被写体の像を撮像デバイスに結像する光学的結像手段と、所定領域の画像信号を出力することができる撮像デバイスと、前記撮像デバイスからの出力領域を設定する領域設定部と、領域設定部で設定した領域の大きさに応じて前記撮像デバイスの読み出し規則を選択する手段と、前記撮像デバイスから出力される複数のフレームの画像信号から高解像度な画像を生成する手段とを備えた事を特徴とする撮像装置。
  2. 前記撮像デバイスの読み出し規則は、前記出力領域の大きさによらず画素の読み出しの総クロック数が一定である事を特徴とする請求項1に記載の撮像装置。
  3. 前記撮像デバイスの読み出し規則を、フレーム毎に異ならせる手段を有することを特徴とする請求項2に記載の撮像装置。
  4. 前記複数のフレームの画像信号から高解像度な画像を生成する手段が、複数フレーム間のモーションを推定する手段と、モーション推定がなされた複数フレームの画像信号を用いて高解像度画像信号を推定する手段よりなり、前記複数フレーム間のモーション推定を行うときに、互いに同一の読み出し規則を選択する手段を有することを特徴とする請求項3に記載の撮像装置。
  5. 前記複数フレーム間のモーション推定を行うときに、同一の読み出し規則のフレームを選択してモーション推定を行い、さらに、連続するフレーム間のモーション推定演算を行う手段を有することを特徴とする請求項4に記載の撮像装置。
  6. 前記撮像デバイスの読み出し規則が、画素を離間的に読み出す間引き読み出しであることを特徴とする請求項2ないし請求項5のいずれかに記載の撮像装置。
  7. 前記撮像デバイスの間引き読み出しを行った後、間引き読み出しによる歪みの補正処理を行う手段を有することを特徴とする請求項6に記載の撮像装置。
  8. 前記歪みの補正処理が同一フレーム内の画素演算処理であることを特徴とする請求項7に記載の撮像装置。


JP2004172094A 2004-06-10 2004-06-10 撮像装置 Expired - Fee Related JP4184319B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2004172094A JP4184319B2 (ja) 2004-06-10 2004-06-10 撮像装置
US11/628,909 US7868923B2 (en) 2004-06-10 2005-06-09 Imaging system
PCT/JP2005/011004 WO2005122554A1 (ja) 2004-06-10 2005-06-09 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004172094A JP4184319B2 (ja) 2004-06-10 2004-06-10 撮像装置

Publications (2)

Publication Number Publication Date
JP2005352721A true JP2005352721A (ja) 2005-12-22
JP4184319B2 JP4184319B2 (ja) 2008-11-19

Family

ID=35503495

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004172094A Expired - Fee Related JP4184319B2 (ja) 2004-06-10 2004-06-10 撮像装置

Country Status (3)

Country Link
US (1) US7868923B2 (ja)
JP (1) JP4184319B2 (ja)
WO (1) WO2005122554A1 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009124621A (ja) * 2007-11-19 2009-06-04 Sanyo Electric Co Ltd 超解像処理装置及び方法並びに撮像装置
US20110115928A1 (en) * 2006-06-05 2011-05-19 Tessera Technologies Ireland Limited Image Acquisition Method and Apparatus
US8406572B2 (en) 2008-07-17 2013-03-26 Sony Corporation Image processing apparatus, image processing method and program
JP2013532878A (ja) * 2010-08-06 2013-08-19 ヴァレリーヴィチ シムニコ,ドミトリー 超解像度画像を生成する方法及びこれを実施するための非線形デジタルフィルター
US8649627B2 (en) 2007-03-05 2014-02-11 DigitalOptics Corporation Europe Limited Image processing method and apparatus
US8698924B2 (en) 2007-03-05 2014-04-15 DigitalOptics Corporation Europe Limited Tone mapping for low-light video frame enhancement
US8878967B2 (en) 2007-03-05 2014-11-04 DigitalOptics Corporation Europe Limited RGBW sensor array
US9307212B2 (en) 2007-03-05 2016-04-05 Fotonation Limited Tone mapping for low-light video frame enhancement

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5053869B2 (ja) * 2008-01-10 2012-10-24 キヤノン株式会社 固体撮像装置、撮像システム、及び固体撮像装置の駆動方法
US8654205B2 (en) * 2009-12-17 2014-02-18 Nikon Corporation Medium storing image processing program and imaging apparatus
US20120320182A1 (en) * 2011-06-17 2012-12-20 Richard Hubbard Electro optical image-magnifying device
US9304089B2 (en) * 2013-04-05 2016-04-05 Mitutoyo Corporation System and method for obtaining images with offset utilized for enhanced edge resolution
US9570106B2 (en) 2014-12-02 2017-02-14 Sony Corporation Sensor configuration switching for adaptation of video capturing frame rate
CN115691369A (zh) * 2021-07-21 2023-02-03 北京京东方光电科技有限公司 显示面板的显示方法及其显示控制装置、显示装置

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3006872B2 (ja) * 1990-11-06 2000-02-07 日本電信電話株式会社 高解像度画像合成処理方式
JPH04196775A (ja) * 1990-11-27 1992-07-16 Matsushita Electric Ind Co Ltd 静止画形成装置
US5657402A (en) * 1991-11-01 1997-08-12 Massachusetts Institute Of Technology Method of creating a high resolution still image using a plurality of images and apparatus for practice of the method
JPH07131692A (ja) * 1993-11-05 1995-05-19 Sharp Corp 静止画像撮像装置
JPH10164326A (ja) * 1996-11-28 1998-06-19 Minolta Co Ltd 画像取り込み装置
US6330344B1 (en) * 1997-02-14 2001-12-11 Sony Corporation Image processing device and method employing motion detection to generate improved quality image from low resolution image
JP3695119B2 (ja) * 1998-03-05 2005-09-14 株式会社日立製作所 画像合成装置、及び画像合成方法を実現するプログラムを記録した記録媒体
JP2000041186A (ja) * 1998-07-22 2000-02-08 Minolta Co Ltd デジタルカメラおよびその制御方法
US6906751B1 (en) 1998-07-22 2005-06-14 Minolta Co., Ltd. Digital camera and control method thereof
US6285804B1 (en) * 1998-12-21 2001-09-04 Sharp Laboratories Of America, Inc. Resolution improvement from multiple images of a scene containing motion at fractional pixel values
JP4427701B2 (ja) * 2000-09-29 2010-03-10 ソニー株式会社 カメラ装置及びカメラ機能調整方法
JP2002369083A (ja) * 2001-06-07 2002-12-20 Olympus Optical Co Ltd 撮像装置
JP4142340B2 (ja) 2002-05-22 2008-09-03 オリンパス株式会社 撮像装置
US8040385B2 (en) 2002-12-02 2011-10-18 Olympus Corporation Image pickup apparatus
US7352919B2 (en) * 2004-04-28 2008-04-01 Seiko Epson Corporation Method and system of generating a high-resolution image from a set of low-resolution images

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110115928A1 (en) * 2006-06-05 2011-05-19 Tessera Technologies Ireland Limited Image Acquisition Method and Apparatus
US8520082B2 (en) * 2006-06-05 2013-08-27 DigitalOptics Corporation Europe Limited Image acquisition method and apparatus
US8649627B2 (en) 2007-03-05 2014-02-11 DigitalOptics Corporation Europe Limited Image processing method and apparatus
US8698924B2 (en) 2007-03-05 2014-04-15 DigitalOptics Corporation Europe Limited Tone mapping for low-light video frame enhancement
US8737766B2 (en) 2007-03-05 2014-05-27 DigitalOptics Corporation Europe Limited Image processing method and apparatus
US8878967B2 (en) 2007-03-05 2014-11-04 DigitalOptics Corporation Europe Limited RGBW sensor array
US8890983B2 (en) 2007-03-05 2014-11-18 DigitalOptics Corporation Europe Limited Tone mapping for low-light video frame enhancement
US9094648B2 (en) 2007-03-05 2015-07-28 Fotonation Limited Tone mapping for low-light video frame enhancement
US9307212B2 (en) 2007-03-05 2016-04-05 Fotonation Limited Tone mapping for low-light video frame enhancement
JP2009124621A (ja) * 2007-11-19 2009-06-04 Sanyo Electric Co Ltd 超解像処理装置及び方法並びに撮像装置
US8406572B2 (en) 2008-07-17 2013-03-26 Sony Corporation Image processing apparatus, image processing method and program
JP2013532878A (ja) * 2010-08-06 2013-08-19 ヴァレリーヴィチ シムニコ,ドミトリー 超解像度画像を生成する方法及びこれを実施するための非線形デジタルフィルター

Also Published As

Publication number Publication date
US7868923B2 (en) 2011-01-11
WO2005122554A1 (ja) 2005-12-22
US20070268388A1 (en) 2007-11-22
JP4184319B2 (ja) 2008-11-19

Similar Documents

Publication Publication Date Title
WO2005122554A1 (ja) 撮像装置
JP4879261B2 (ja) 撮像装置、高解像度化処理方法、高解像度化処理プログラム、及び記録媒体
US7948543B2 (en) Imaging apparatus provided with image scaling function and image data thinning-out readout function
JP5341010B2 (ja) 画像処理装置、撮像装置、プログラム及び画像処理方法
JP4555775B2 (ja) 撮像装置
US20090033792A1 (en) Image Processing Apparatus And Method, And Electronic Appliance
WO2005122083A1 (ja) 撮像装置および画像の高解像度化方法
JP2005044098A (ja) 画像処理装置及び画像処理方法
JP2008098803A (ja) 高解像度化装置および方法
WO2006052029A1 (ja) 撮像装置および画像の高解像化方法
US8482628B1 (en) Early radial distortion correction
JP2011248576A (ja) 画像処理装置、撮像装置、プログラム及び画像処理方法
JP2008077501A (ja) 画像処理装置及び画像処理制御プログラム
JP4361991B2 (ja) 画像処理装置
JP4445870B2 (ja) 撮像装置
JP3868446B2 (ja) 撮像装置
JP6274744B2 (ja) 画像処理装置および画像処理方法
JP2006325276A (ja) 撮像装置
JP2013126123A (ja) 画像処理装置、撮像装置及び画像処理方法
JP5397250B2 (ja) 画像処理装置および画像処理方法
JP2002330283A (ja) 解像度変換方法および解像度変換装置
JPWO2005064925A1 (ja) 撮像装置
JP3134513B2 (ja) 水平ライン補間機能付き撮像装置
JP2013125999A (ja) 画像処理装置、撮像装置及び画像処理方法
JP6012167B2 (ja) 画像処理装置、画像処理方法およびコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080604

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080801

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080827

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080903

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110912

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110912

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120912

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130912

Year of fee payment: 5

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees