JP2006018571A - 画像生成装置、画像撮像装置、動画像生成装置、画像生成方法、画像生成プログラムおよび画像生成プログラムを記録した記録媒体 - Google Patents
画像生成装置、画像撮像装置、動画像生成装置、画像生成方法、画像生成プログラムおよび画像生成プログラムを記録した記録媒体 Download PDFInfo
- Publication number
- JP2006018571A JP2006018571A JP2004195539A JP2004195539A JP2006018571A JP 2006018571 A JP2006018571 A JP 2006018571A JP 2004195539 A JP2004195539 A JP 2004195539A JP 2004195539 A JP2004195539 A JP 2004195539A JP 2006018571 A JP2006018571 A JP 2006018571A
- Authority
- JP
- Japan
- Prior art keywords
- image
- information
- frame
- frame information
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title claims abstract description 202
- 238000006243 chemical reaction Methods 0.000 claims abstract description 119
- 238000012545 processing Methods 0.000 claims abstract description 81
- 238000012937 correction Methods 0.000 claims description 103
- 230000015572 biosynthetic process Effects 0.000 claims description 36
- 238000003786 synthesis reaction Methods 0.000 claims description 36
- 238000006073 displacement reaction Methods 0.000 claims description 35
- 230000002194 synthesizing effect Effects 0.000 claims description 22
- 238000012935 Averaging Methods 0.000 claims description 18
- 230000006870 function Effects 0.000 claims description 6
- 238000010586 diagram Methods 0.000 description 23
- 238000013519 translation Methods 0.000 description 10
- 239000004973 liquid crystal related substance Substances 0.000 description 8
- 238000012986 modification Methods 0.000 description 6
- 230000004048 modification Effects 0.000 description 6
- 238000003672 processing method Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000005352 clarification Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
Abstract
【課題】 撮影した動画像から、階調数がより高く、高画質な画像を得ることができる画像生成装置、撮像装置、動画像生成装置、画像生成方法、画像生成プログラムまたはそのプログラムを記録した記録媒体を提供すること。
【解決手段】 合成手段33は、8ビットで階調表現した4つのフレーム画像F0〜F3に対して、合成処理を行う。得られた生成フレーム画像Fmは、整数部分を表す8ビットのデータに加えて、合成処理の演算により生じた端数部分を表す2ビットのデータを有している。階調変換手段34は、生成フレーム画像Fmの整数部分のデータと端数部分のデータを用いて、整数部分を10ビットで階調表現した生成フレーム画像Fmを取得する。
【選択図】 図14
【解決手段】 合成手段33は、8ビットで階調表現した4つのフレーム画像F0〜F3に対して、合成処理を行う。得られた生成フレーム画像Fmは、整数部分を表す8ビットのデータに加えて、合成処理の演算により生じた端数部分を表す2ビットのデータを有している。階調変換手段34は、生成フレーム画像Fmの整数部分のデータと端数部分のデータを用いて、整数部分を10ビットで階調表現した生成フレーム画像Fmを取得する。
【選択図】 図14
Description
本発明は、多数のフレーム情報からなる動画像からより優れた画質をもつ静止画像を生成する静止画像生成装置、動画像生成装置、撮像装置、静止画像生成方法、静止画像生成プログラムおよび静止画像生成プログラムを記録した記録媒体に関する。
近年、動画像を撮影するデジタルビデオカメラが民生用として広く普及し、日常の様々な撮影シーンで用いられてきている。しかし、一般に、デジタルビデオカメラは、静止画像に比べて膨大な情報量をもつ動画像を扱うために、動画像を構成する個々のフレーム画像がもつ情報量は小さく、画質が優れているとはいえない。実際に、デジタルスチルカメラで撮影した静止画像と比べてみると、動画像を構成する個々のフレーム画像は、解像度・ノイズ・階調性などの面において劣っていることが多い。例えば、フレーム画像のもつ階調性について見てみると、デジタルビデオカメラを始めとする従来の動画像撮像機器では、動画像を構成する各フレーム情報の画素情報として、8ビット程度の情報量をもつようにしていることが多い。一方、昨今の静止画像を取り巻く状況からは、さらに多くの画素情報をもち高い階調性をもつことが求められてきている。例えば、静止画像の統一規格であるJPEG2000ではRGBデータの画素情報に各色10ビットを割り当てて、階調表現を行うようにしている。このような中、従来の機器で撮影された比較的低い階調数をもつ動画像から、より高い階調数をもつ静止画像を生成して取得する画像処理技術が求められている。
特許文献1には、8ビットの画像信号を10ビットの画像信号に変換する際、増加した下位2ビットを乱数により生成するようにしている。これにより、トーンジャンプが乱数により希釈化されて目立つことがなくなる。こうして、より優れた画質をもつ画像を得る技術が開示されている。
特許文献1にある技術では、階調数を表す下位ビット側に、乱数を用いることにより新たにビットを付け加えるようにしている。すなわち、ランダム性をもたせた下位ビットを加えることにより、下位ビットが増える分階調数を増やすようにして元の信号が持つ階調値を拡散させている。このようにして、トーンジャンプの目立たない画像を形成している。しかし、下位ビットの値にランダム性が加わるため、元の画像を忠実に再現した階調が得られない。したがって、階調数が増え、階調表現力が豊かになったとしても、画像の再現性が低下することが考えられる。このような中、画像をより忠実に再現しながら、階調数を増加させることのできる技術が求められている。
上記課題を解決するために、本発明の画像生成装置は、所定の階調数をもつ画素情報からなる第1フレーム情報を時系列に連続してなる第1の画像情報より、第2フレーム情報を生成する画像生成装置であって、第1の画像情報から複数の第1フレーム情報を取得するフレーム取得手段と、複数の第1フレーム情報のうちいずれか1つの第1フレーム情報を基準にして、複数の第1フレーム情報の相対的な位置ずれを補正する位置ずれ補正量を取得するずれ補正量取得手段と、位置ずれ量に基づき、複数の第1フレーム情報のうち少なくとも1つについて位置ずれ量を低減または解消する変換処理を行う第1の変換手段と、変換処理後の複数の第1フレーム情報から少なくとも1つの第1フレーム情報を合成することにより、第2フレーム情報を生成する合成処理を行う合成手段と、第2フレーム情報を変換して、第1フレーム情報と異なる階調数をもつ第2フレーム情報を取得する第2の変換手段と、を備えたことを要旨とする。
この構成によれば、合成手段が選択した第1フレーム情報から第2フレーム情報を生成し、第2の変換手段により、第1フレーム情報と異なる階調数をもつ第2フレーム情報を取得することができる。また、複数の第1フレーム情報から第2フレーム情報を取得しているので、合成手段が取得する第2フレーム情報は、第1フレーム情報より多くの情報量をもつことができる。したがって、この第2フレーム情報のより多くの画素情報を利用することにより第1フレーム情報のもつ階調数と異なる階調数をもつ第2フレーム情報を取得することができる。
ここで、第2の変換手段は、第1フレーム情報より多数の階調数をもつ画素情報からなる第2フレーム情報を生成することが好ましい。
このようにすれば、第1フレーム情報より多数の階調数をもつ第2フレーム情報を取得することができる。したがって、階調表現力に優れ、高画質な第2フレーム情報を得ることができる。
ここで、合成手段は、変換処理後の複数の第1フレーム情報から少なくとも1つの第1フレーム情報を選択し、選択した第1フレーム情報の複数の画素情報を合成して、第2フレーム情報のひとつの画素情報を取得するようにして、第2フレーム情報を生成することが好ましい。
このようにすれば、合成手段が選択した第1フレーム情報の複数の画素情報から1つの画素情報を得るようにして第2フレーム情報を生成する。すなわち、複数の画素情報からひとつの画素情報を求めているので、第1フレーム情報のもつノイズの影響を低減した画素情報から第2フレーム情報を得ることができる。したがって、より高画質な第2フレーム情報を得ることができる。
ここで、合成手段は、選択した第1フレーム情報の複数の画素情報を合成して、端数をもつ画素情報からなる第2フレーム情報を生成し、第2の変換手段は、第2フレーム情報の画素情報がもつ端数を利用して階調数を変換する処理を行うことにより、第1フレーム情報より多数の階調数をもつ第2フレーム情報を取得することが好ましい。
このようにすれば、複数の画素情報の合成を行うことにより生じた画素情報の端数を利用して、階調数を変換するように第2フレーム情報を生成することができる。すなわち、合成処理の演算に伴って画素情報に端数(小数部分)が発生するが、この端数部分の情報もまた、複数の第1フレーム情報より実際に求められた情報であるので、この端数を利用することにより元の画素情報を忠実に再現しながら、階調数を増やした第2フレーム画像を得ることができる。したがって、多数の階調数をもつことにより画質および階調再現性に優れた第2フレーム情報を得ることができる。なお、ここでいう端数を利用する方法としては、例えば、端数をもつ画素情報を2進数で表したときに、端数部分を表すビットをシフトさせて整数部分を表すビットの下位ビットとする方法が考えられる。
ここで、合成手段は、選択した変換処理後の複数の第1フレーム情報の複数の画素情報に平均化処理を行うことにより、端数をもつ画素情報からなる第2フレーム画像を取得することが好ましい。
このようにすれば、変換処理後の複数の第1フレーム情報を平均化した第2フレーム情報を取得するので、端数のある画素情報をもつ第2フレーム画像を得ることができ、これにより階調数を増やした第2フレーム画像を得ることができる。また、平均化することにより各第1フレーム情報がそれぞれ有しているノイズを低減した画素情報が得られる。したがって、画質に優れた第2フレーム情報を得ることができる。
ここで、合成手段は、選択した第1フレーム情報の複数の画素情報に対して、補間処理を行うことにより、端数をもつ画素情報からなる第2フレーム情報を取得することが好ましい。
このようにすれば、補間処理を行うことにより得られた端数を利用して、第2の変換手段により階調数を増やした第2フレーム情報を得ることができる。なお、補間処理としては、バイ・リニア法またはバイ・キュービック法など周知の補間処理手法を用いることが望ましい。もっとも、これ以外にも、処理を行うことにより得られる値に端数が発生するような補間処理手法であっても良い。
ここで、合成手段は、第1フレーム情報より高い解像度を持つ第2フレーム情報を生成することが好ましい。
このようにすれば、合成手段により第1フレーム情報より高い解像度を持つ第2フレーム情報を得ることができる。例えば、合成処理を行う際に、第1フレーム画像の画素ピッチより細かな画素ピッチとなるように第2フレーム画像の画素を設定し、補間処理により、この第2フレーム画像の画素情報を求めるようにして、第1フレーム情報より高い解像度を持つ第2フレーム情報を得ることができる。したがって、空間的により精細な表現ができることになるので、より画質に優れた第2フレーム情報を得ることができる。
ここで、第2の変換手段は、静止画像を表示する表示手段が再現できる階調数に合わせた階調数をもつ第2フレーム情報を生成することが好ましい。
このようにすれば、表示手段の階調表現力に合わせた階調数をもつ第2フレーム情報を得ることができる。したがって、表示手段側では必要に応じた階調変換を行うことなく、表示することができるので、表示手段はより画質に優れた表示を行うことができる。
ここで、第2の変換手段は、入力部からの操作に対応して階調数を選択し、選択した階調数をもつ第2のフレーム情報を生成することが好ましい。
このようにすれば、階調数を選択することにより所望の階調数をもつ第2のフレーム情報を得ることができる。したがって、様々な用途・表示手段に合わせた階調数をもつフレーム情報を得ることができる。
ここで、本発明は上記した画像生成装置を備えた動画像撮像装置としてもよい。
このようにすれば、動画像を撮影した撮像装置のみにより、第1の画像情報(動画像)の撮像を行う共に、階調数の増した第2フレーム情報の取得を得ることができるので、より利便性に優れた画像生成装置とすることができる。
本発明は動画像生成装置としてもよい。すなわち、本発明の動画像生成装置は、上記した画像生成装置を備え、所定の階調数をもつ画素情報からなる第1フレーム情報を時系列に連続してなる第1の画像情報より、第2フレーム情報からなる第2の画像情報を生成する動画像生成装置であって、フレーム取得手段、ずれ量取得手段、第1の変換手段、合成手段および第2の変換手段が各々の処理を順次繰り返して第2フレーム情報を時系列に生成することにより第2の画像情報を生成することを要旨とする。
この構成によれば、第1フレーム情報と異なる階調数をもつ第2フレーム情報からなる第2の画像情報を生成することができる。
また、本発明は画像生成方法とすることもできる。すなわち、本発明の画像生成方法は、所定の階調数をもつ画素情報からなる第1フレーム情報を時系列に連続してなる第1の画像情報より、第2フレーム情報を生成する画像生成方法であって、第1の画像情報から複数の第1フレーム情報を取得するフレーム取得ステップと、複数の第1フレーム情報のうちいずれか1つの第1フレーム情報を基準にして、複数の第1フレーム情報の相対的な位置ずれを補正する位置ずれ補正量を取得するずれ補正量取得ステップと、位置ずれ量に基づき、複数の第1フレーム情報のうち少なくとも1つについて位置ずれ量を低減または解消する変換処理を行う第1の変換ステップと、変換処理後の複数の第1フレーム情報から少なくとも1つの第1フレーム情報を合成することにより、第2フレーム情報を生成する合成処理を行う合成ステップと、第2フレーム情報を変換して、第1フレーム情報と異なる階調数をもつ第2フレーム情報を取得する第2の変換ステップと、からなることを要旨とする。
また、本発明は、画像生成プログラムまたはその画像生成プログラムを記録したコンピュータ読み取り可能な記録媒体としてもよい。すなわち、所定の階調数をもつ画素情報からなる第1フレーム情報を時系列に連続してなる第1の画像情報より、第2フレーム情報を生成する画像生成プログラムであって、コンピュータを第1の画像情報から複数の第1フレーム情報を取得するフレーム取得手段、複数の第1フレーム情報のうちいずれか1つの第1フレーム情報を基準にして、複数の第1フレーム情報の相対的な位置ずれを補正する位置ずれ補正量を取得するずれ補正量取得手段、位置ずれ量に基づき、複数の第1フレーム情報のうち少なくとも1つについて位置ずれ量を低減または解消する変換処理を行う第1の変換手段、変換処理後の複数の第1フレーム情報から少なくとも1つの第1フレーム情報を合成することにより、第2フレーム情報を生成する合成処理を行う合成手段、第2フレーム情報を変換して、第1フレーム情報と異なる階調数をもつ第2フレーム情報を取得する第2の変換手段、として機能させることを要旨とする。プログラムの記録媒体としては、フレキシブルディスクなどの磁気ディスク、CD−Rなどの光ディスク、MOなどの光磁気ディスクなどのコンピュータが読み取り可能な種々の記録媒体を利用することができる。
以下、本発明の第1の実施形態について図面を用いて説明する。
図1は、本実施形態の画像生成装置のハードウェア構成を示す図である。
この画像生成装置1は汎用のパーソナルコンピュータであり、コンピュータ2には、演算処理の中心的役割を果たすCPU3を備え、このCPU3がシステムバス4を介してコンピュータ2全体の制御を行う。また、このシステムバス4にはROM5、RAM6、ハードディスク7、CD−R/RWドライブ8、IEEE1394用インターフェイス9、USB用インターフェイス10およびLCD用インターフェイス11等の各種機器が接続されている。
ハードディスク7には、本発明にある画像生成アプリケーションのプログラムおよびオペレーティングシステム(OS)が記憶されている。IEEE1394用インターフェイス9にはデジタルビデオカメラ12が接続されており、撮影した動画像ファイルはIEEE1394ケーブルを介して画像生成装置1に取り込むことができるようにしている。また、LCD用インターフェイス11には液晶ディスプレイ14が、USB用インターフェイス10には、入力部としてキーボード15およびマウス16が接続されているので、液晶ディスプレイ14の表示画面に従って、キーボード15およびマウス16から命令を入力することにより画像生成アプリケーションの起動および操作を行うことができる。さらに、USB用インターフェイス10にはプリンタ13が接続され、画像生成装置1で生成した画像をプリンタ13に出力することにより印刷を行うようにしている。
コンピュータ1は、所定のオペレーションシステムの下で、ハードディスク7から画像生成アプリケーションのプログラムを読み出し、コンピュータ1内部に備わるRAM6に記憶させて、プログラムを実行する。プログラムを実行すると、画像処理アプリケーションが起動し、コンピュータ2は、液晶ディスプレイ(表示手段)14に表示させるユーザーインターフェイス画面に従って、キーボード15またはマウス16から入力される命令に対応して画像処理を行う画像生成装置1として機能する。なお、画像処理プログラムは、CD−ROM17に記録された状態でユーザーに供給され、CD−R/RWドライブ8より読み出して、コンピュータ2内部に備わるハードディスク7に記録するようにしている。もっとも、CD−ROM17に限ることなくDVD−ROMなどの光ディスク、フレキシブルディスク等の磁気ディスク、光磁気ディスク、不揮発性メモリ等の記録媒体であってもよい。また、インターネットなどのネットワーク回線を通じて、画像処理プログラムをコンピュータ1に供給するようにしてもよい。
このように、オペレーティングシステム(OS)のもとで、画像生成アプリケーションのプログラムを実行することにより、コンピュータ2は以上に述べた各種機器に対して制御を行う画像生成装置1として機能する。なお、本実施形態に係るこの画像生成装置1は、入力した動画ファイルである元動画像(第1の画像情報)MAに対して動画の画質を向上させる処理を行い、生成フレーム画像(第2フレーム情報)Fmを新たに生成・出力するものである。この画質を向上させる処理を、以下では、「鮮明化処理」と呼ぶ。
次に、この画像生成装置1の機能的な構成について説明する。図2は、画像生成装置1の機能的な構成の概略を示している。
画像生成装置1は、元動画像MAからフレーム画像F(第1フレーム情報)を順次取得するフレーム取得手段30と、複数のフレーム画像Fから位置ずれ量を求め、位置ずれの補正量である位置ずれ補正量を取得するずれ補正量取得手段31と、記憶したずれ補正量に基づいて変換処理を行う変換手段(第1の変換手段)32と、変換した画像を合成して生成フレーム画像(第2フレーム情報)Fmを取得する合成手段33と、生成フレーム画像Fmを表現する階調数を変換する階調変換手段(第2の変換手段)34と、から構成されている。実際には、フレーム取得手段30、変換手段32、合成手段33および階調変換手段34は、コンピュータ2に備わるCPU3が中心となって処理を行うことでその役割を果たしている。
図3は、画像生成装置1が行う鮮明化処理の概略を説明する図である。以下、図3に基づき画像生成装置1が行う鮮明化処理について説明する。なお、本実施形態では4つのフレーム画像Fを用いて処理を行うものとして、フレーム取得手段30が取得した4つのフレーム画像Fをフレーム画像F0〜F3(図4におけるF0〜F3)と呼び、以下に説明を行う。
元動画像MAは、多数の画素をマトリクス状に配列してなる多数のフレーム画像Fを、時系列に並べるようにして構成されている。また、これらのフレーム画像Fは時系列に連続して撮影されたものであり、図3においては、元動画像MAのフレーム画像Fは左から右へ向かって時系列に連続した画像が並んでいるものとする。なお、各フレーム画像Fは、256階調(8ビット)のうちいずれかの階調値を有した多数の画素がマトリクス状に並ぶことにより構成されている。本実施形態では、この各画素は、R(レッド)、G(グリーン)、B(ブルー)の各々について階調数をもつRGBデータで表現されている。もっとも、Y(輝度)、Cb(ブルーの色差)、Cr(レッドの色差)の各々について階調数をもつYCbCrデータであっても良く、フレーム画像Fの階調数についても256階調に限られるものではなく、1024階調(10ビット)などの他の階調数をもたせても良い。
フレーム取得手段30は、元動画像MAから時系列に連続した複数のフレーム画像Fを取得する(フレーム取得処理)。なお、本実施形態では、時系列に連続した4つのフレーム画像(F0〜F3)を取得するようにしているが、例えば5つまたは6つのフレーム画像Fを取得するとしても良い。
ずれ補正量取得手段31は、フレーム取得手段30が取得した複数のフレーム画像Fから、複数のフレーム画像F間の回転ずれを表す回転ずれ量、および並進ずれを表す並進ずれ量を求め、これを補正するための補正量である回転ずれ補正量および並進ずれ補正量を取得する(ずれ補正量算出処理)。すなわち、フレーム画像F間の回転ずれおよび並進ずれをなくするような回転ずれ補正量および並進ずれ補正量を算出している。
ここで、以下では説明を簡略する為、回転ずれおよび並進ずれの双方を含めて表す言葉として、「位置ずれ」と呼ぶことにする。すなわち、回転ずれ量および並進ずれ量を合わせて位置ずれ量、回転ずれ補正量および並進ずれ補正量を合わせて位置ずれ補正量と呼ぶ。
ここで、以下では説明を簡略する為、回転ずれおよび並進ずれの双方を含めて表す言葉として、「位置ずれ」と呼ぶことにする。すなわち、回転ずれ量および並進ずれ量を合わせて位置ずれ量、回転ずれ補正量および並進ずれ補正量を合わせて位置ずれ補正量と呼ぶ。
このとき、複数のフレーム画像Fのうちいずれかの一つを位置ずれの相対的な基準となる基準フレーム画像Fbとし、基準フレーム画像Fb以外のフレーム画像Fを対象フレーム画像Ftとする。本実施形態では、フレーム取得手段30が取得したフレーム画像Fのうち最も過去(時系列順で1番目)に取得したフレーム画像Fを基準フレーム画像Fbとしている。したがって、図4に示すようにフレーム画像F0〜F3が順に取得されたときは、フレーム画像F0を基準フレーム画像Fbとし、基準フレーム画像Fbに対する対象フレーム画像Ftであるフレーム画像F1〜F3のそれぞれの位置ずれ補正量を取得することになる。本実施形態では取得した4つのフレーム画像Fのうち最も過去に記憶したフレーム画像Fを基準フレーム画像Fbにしているが、取得したいずれのフレーム画像Fを基準としても良い。
変換手段32は、ずれ補正量取得手段31が取得した位置ずれ補正量に基づいて、対象フレームFtを基準フレーム画像Fbに合わせるように画素を置き換える処理(変換処理)を行い、時系列に連続した4つのフレーム画像F0〜F3間の並進ずれおよび回転ずれを補正する。
合成手段33は、変換処理を行うことにより位置ずれを補正した4つのフレーム画像Fを合成して、より解像度の高い1つの画像である生成フレーム画像Fmを生成する(合成処理)。なお、ここで得られる生成フレーム画像Fmは、合成処理の演算の結果生じた端数をもっている。
階調変換手段34は、生成フレーム画像Fmの端数部分の情報を利用して階調数を変換する階調変換処理を行い、より高い階調数をもつ生成フレーム画像Fmを取得する。
以上に述べたフレーム取得手段30、ずれ補正量取得手段31、変換手段32、合成手段33および階調変換手段34から本画像生成装置1が構成されている。なお、ずれ補正量取得手段31が行うずれ量算出処理、変換手段32の行う変換処理、合成手段33の行う合成処理および階調変換手段34が行う階調変換処理について、詳細な処理内容については後述することとし、次には鮮明化処理全体の処理手順について述べる。
以上に述べた鮮明化処理全体の処理手順を、図4に示すフローチャートを用いて説明する。画像生成アプリケーションを起動すると、コンピュータ2が図4のフローチャートで示される画像処理プログラムを実行する。なお、このプログラムは、画像生成装置1内部に備わるRAM6に格納され、所定のオペレーションシステムの下で、CPU3が実行することにより、画像出力装置20の各構成要素が動作し、それぞれの機能を果たすことができる。実際には、図4のプログラムのうちステップS10はフレーム取得手段30が、ステップS20およびS30ずれ補正量取得手段31が、ステップS40は変換手段32が、S50は合成手段33が、ステップS60は階調変換手段34が行うことにより処理を行われている。
プログラムを実行すると、始めに、ステップS10では、CPU3が基準フレーム画像Fbの設定を行い、RAM6に記憶する。すなわち、上述したように、本実施形態ではフレーム取得手段30が取得した時系列順の4つのフレーム画像Fのうち最も過去に記憶したフレーム画像Fを基準フレーム画像Fbに設定する。
次に、ステップS20では、CPU3が対象フレーム画像Ftの設定を行い、RAM6に記憶する。ここでは、4つのフレーム画像FのうちステップS10で設定した基準フレーム画像Fb以外のフレーム画像Fを対象フレーム画像Ftに設定する。
次に、ステップS30では、ずれ補正量取得処理を行い、基準フレーム画像Fbに対する対象フレーム画像Ftの位置ずれ補正量を取得する。ここでは、実際にはRAM6に記憶された基準フレーム画像Fbおよび対象フレーム画像Ftを、CPU3が読み出して演算を行うことにより処理されている。また、求めた位置ずれ補正量は、RAM6に記憶される。
次に、ステップS40では、フレーム変換処理を行う。ここでは、CPU3は、ステップS30で取得した位置ずれ補正量をRAM6から読み出し、位置ずれ補正量に基づいてフレーム画像F間の位置ずれを補正する。CPU3はこの処理を実行して補正した後、フレーム画像FをRAM6に記憶する。
次に、ステップS50では、位置ずれを補正したフレーム画像Fに対してフレーム合成処理を行い、生成フレーム画像Fmを取得する。ここでは、RAM6に記憶されたフレーム画像Fを、CPU3が読み出して演算を行うことにより行われる。また、取得した生成フレーム画像FmはRAM6に記憶される。
次に、ステップS60では、生成フレーム画像Fmに対して階調変換処理を行う。ここでは、RAM6に記憶された生成フレーム画像Fmを、CPU3が読み出して演算を行うことにより行われる。階調変換処理の行われた生成フレーム画像Fmはいったん、RAM6に書き出された後に、階調数を高めた静止画像として出力される。ステップS60を終えると、鮮明化処理を終了する。
次に、鮮明化処理の各処理方法(ずれ補正量算出処理、変換処理および合成処理)についてそれぞれ説明する。
図5は、基準フレーム画像Fbと対象フレーム画像Ftとの間の位置ずれの補正について示す説明図である。図6では、図3におけるフレーム画像F1を対象フレーム画像Ft、フレーム画像F0を基準フレーム画像Fbとして、基準フレーム画像Fbに対する対象フレーム画像Ftの位置ずれを補正する様子を示している。また、画像の位置ずれは、並進ずれ(横方向および縦方向)と、回転ずれとの組み合わせで表される。以下、説明の為、図5における横方向をX方向、縦方向をY方向、フレーム画像Fの中央を中心として角度δを定める。
本実施例では、並進ずれ量のX方向成分を「u」、Y方向成分を「v」、回転ずれ量を「δ」と表し、基準フレーム画像Fbに対する対象フレーム画像Fp(p=1,2,3)のX方向、Y方向およびδ方向のずれ量を「up」、「vp」、「δp」と表すこととする。例えば、図5(b)に示すように、対象フレーム画像Ftは、基準フレーム画像Fbに対して、並進ずれ、および回転ずれが生じており、そのずれ量は、u1,v1,δ1と表される。
ここで、対象フレーム画像Ft(フレーム画像F1〜F3)を基準フレーム画像Fbと合成するためには、フレーム画像F1〜F3が基準フレーム画像Fbと一致するように、対象フレーム画像Ftの各画素の位置ずれを補正する必要がある。このために用いられる並進ずれ補正量として横方向を「um」、縦方向を「vm」、回転ずれ補正量を「δm」と表し、対象フレーム画像Fp(p=1,2,3)についての補正量を「ump」、「vmp」、「δmp」と表すこととする。すなわち、対象フレーム画像Ftであるフレーム画像F1についての補正量は、um1,vm1,δm1と表される。
ここで、補正とは、フレーム画像Fp(p=1,2,3)の各画素の位置を、X方向にupの移動、Y方向にvpの移動、およびδpの回転を施した位置に移動させることを意味している。従って、フレーム画像Fp(p=1,2,3)についての補正量ump,vmp,δmpは、それぞれump=−up,vmp=−vp,δmp=−δpの関係で表される。例えば、フレーム画像F1についての補正量は、um1=−u1,vm1=−v1、δm1=−δ1と表される。
以上のことから、例えば、図5(c)に示すように、位置ずれ補正量um1,vm1、δm1を用いて、対象フレーム画像Ftの各画素の位置を変換することにより、対象フレーム画像Ftを基準フレーム画像Fbに一致させることができる。フレーム画像F1と同様に、フレーム画像F2,F3についても、補正量um2,vm2,δm2およびum3,vm3,δm3の各値を用いて補正が施され、フレーム画像F2,F3の各画素の位置を置き換えることができる。
ところで、各フレーム画像Fp(p=1,2,3)についてのずれ補正量ump,vmp,δmpは、ずれ補正量取得手段31において、基準フレーム画像Fbの画像データと対象フレーム画像Ftの画像データとに基づき、パターンマッチング法および勾配法による所定の算出式を用いて、推定量として算出される。
以下、位置ずれ補正を行う方法について説明する。始めに、位置ずれ補正量から各対象フレーム画像Ftを変換する変換処理の手法について説明する。
図6は、基準フレーム画像Fbに対する対象フレーム画像Ftのずれ量について示す説明図である。図6は、対象フレーム画像Ftが、基準フレーム画像Fbに対して並進ずれおよび回転ずれを補正して重ね合わせるように配置された状態(例えば、図5(c)の状態)を示している。対象フレーム画像Ftの中心を原点とし、横方向をx2軸、縦方向をy2軸とする直交座標(x2,y2)が、基準フレーム画像Fbの中心を原点とし、横方向をx1軸、縦方向をy1軸とする直交座標(x1,y1)に対してずれており、このときの横方向の並進ずれ量はu、縦方向の並進ずれ量はv、回転ずれ量は対象フレーム画像Ftの中心を原点としてδである。このとき、対象フレーム画像Ftの座標を基準フレーム画像Fb上の座標に変換する変換式は、並進ずれ補正量(um,vm)および回転ずれ補正量δmを変数として、下式により表される。
x1=cos(δm)×(x2+um)−sin(δm)×(y2+vm) …(1)
y1=sin(δm)×(x2+um)+cos(δm)×(y2+vm) …(2)
x1=cos(δm)×(x2+um)−sin(δm)×(y2+vm) …(1)
y1=sin(δm)×(x2+um)+cos(δm)×(y2+vm) …(2)
なお、元動画像MAを構成する基準フレーム画像Fbと対象フレーム画像Ftとの時間差はごく僅かであるため、δおよびδmは微小量と考えられる。このとき、cos(δm)≒1,sin(δm)≒δmと近似できるため、式(1)および(2)を以下のように置き換えることができる。
x1=(x2+um)−δm・(y2+vm) …(3)
y1=δm・(x2+um)+(y2+vm) …(4)
x1=(x2+um)−δm・(y2+vm) …(3)
y1=δm・(x2+um)+(y2+vm) …(4)
従って、上述したように、対象フレーム画像Ftと基準フレーム画像Fbとを重ね合わせて配置するためには、対象フレーム画像Ftが基準フレーム画像Fbと一致するように、上記した式(3),(4)に位置ずれ補正量(um,vm,δm)を代入し、対象フレーム画像Ftの各画素の画素情報を基準フレーム画像Fb上の画素情報を変換する処理を行えばよい。
次に、位置ずれ補正量(um,vm,δm)の算出処理の手法について説明する。
式(3),(4)の変数um,vm,δmは、以下で説明するように、基準フレーム画像Fbと対象フレーム画像Ftとの間の各画素の画素情報を用いて、1画素よりも細かい単位で画素の位置を推定することができる勾配法(グラディエント法)に基づいて、最小自乗法を用いることにより推定することができる。なお、以下では推定に用いる画素情報として、RGBデータで表された画素情報のうちいずれか1つの階調値を用いて説明を行うが、実際には、R、G、Bのそれぞれについて独立して同様の手法を用いることにより推定を行うものである。
式(3),(4)の変数um,vm,δmは、以下で説明するように、基準フレーム画像Fbと対象フレーム画像Ftとの間の各画素の画素情報を用いて、1画素よりも細かい単位で画素の位置を推定することができる勾配法(グラディエント法)に基づいて、最小自乗法を用いることにより推定することができる。なお、以下では推定に用いる画素情報として、RGBデータで表された画素情報のうちいずれか1つの階調値を用いて説明を行うが、実際には、R、G、Bのそれぞれについて独立して同様の手法を用いることにより推定を行うものである。
図7は、勾配法による並進補正量の推定方法を示す説明図である。図7(a)には、基準フレーム画像Fbおよび対象フレーム画像Ftの画素および輝度が示されており、ここで(x1(i),y1(i))は基準フレーム画像Fb上の画素の座標を、B1(x1(i),y1(i))は、その画素の輝度値をそれぞれ表している。(x2(i),y2(i))は対象フレーム画像Ft上の画素の座標を、B2(x2(i),y2(i))はその輝度値をそれぞれ表している。ここで、iはフレーム画像Fの全画素を区別するための番号である。また、図7(b)には、X方向およびY方向についての勾配法の原理を示している。
ここでは、対象フレーム画像Ft上の座標(x2(i),y2(i))の画素が、基準フレーム画像Fbの座標(x1(i)〜x1(i+1),y1(i)〜y1(i+1))の間にあるものとして説明する。すなわち、x2(i)=x1(i)+Δx,y2(i)=y1(i)+Δy)と表すことができる。ただし、0<Δx<1,0<Δy<1である。
図7(b)の左側に示すように、対象フレーム画像Ftにおける座標(x2(i),y2(i))の画素が、基準フレーム画像Fbの座標(x1(i)〜x1(i+1),y1(i))の間、すなわち、画素間の座標である(x1(i)+Δx,y1(i))にあるものとし、以下の式(5)が成り立つものと仮定すると、式(6)の関係が成り立つと推定することができる。
Px=B1(x1(i)+1,y1(i))−B1(x1(i),y1(i))
…(5)
Px・Δx=B2(x2(i),y2(i))−B1(x1(i),y1(i))
…(6)
Px=B1(x1(i)+1,y1(i))−B1(x1(i),y1(i))
…(5)
Px・Δx=B2(x2(i),y2(i))−B1(x1(i),y1(i))
…(6)
この場合、B1(x1(i),y1(i))およびB2(x2(i),y2(i))を単にB1,B2で表すこととして、最小自乗法を用いると次式が得られる。
{Px・Δx−(B2−B1)}2=0 …(7)
式(7)が成り立つようなΔxを求めれば、対象フレーム画像Ftの横方向の並進補正量(Δx=u)を求めることができる。実際には、各画素についてΔxを算出し、フレーム画像Fの画素全体で平均することにより、1つのフレーム画像Fに対して1つの並進ずれ補正量を得る。
{Px・Δx−(B2−B1)}2=0 …(7)
式(7)が成り立つようなΔxを求めれば、対象フレーム画像Ftの横方向の並進補正量(Δx=u)を求めることができる。実際には、各画素についてΔxを算出し、フレーム画像Fの画素全体で平均することにより、1つのフレーム画像Fに対して1つの並進ずれ補正量を得る。
同様にしてY方向についても考えると、図7(b)の右側に示すように、対象フレーム画像Ftにおける座標(x2(i),y2(i))の画素が、基準フレーム画像Fbの座標(x1(i),y1(i)〜y1(i)+1)の間、すなわち、画素間の座標である(x1(i),y1(i)+Δy)にあるものとし、以下の式(8)が成り立つものと仮定すると、式(9)の関係が成り立つと推定することができる。
Py=B1(x1(i),y1(i)+1)−B1(x1(i),y1(i))
…(8)
Py・Δy=B2(x2(i),y2(i))−B1(x1(i),y1(i))
…(9)
Py=B1(x1(i),y1(i)+1)−B1(x1(i),y1(i))
…(8)
Py・Δy=B2(x2(i),y2(i))−B1(x1(i),y1(i))
…(9)
したがって、B1(x1(i),y1(i))およびB2(x2(i),y2(i))を単にB1,B2で表すこととして、最小自乗法を用いると次式が得られる。
{Py・Δy−(B2−B1)}2=0 …(10)
式(10)が成り立つようなΔyを求めれば、対象フレーム画像Ftの縦方向の並進ずれ補正量(Δy=v)を求めることができる。実際には、各画素についてΔyを算出し、フレーム画像Fの画素全体で平均することにより、1つのフレーム画像Fに対して1つの並進ずれ補正量を得る。
{Py・Δy−(B2−B1)}2=0 …(10)
式(10)が成り立つようなΔyを求めれば、対象フレーム画像Ftの縦方向の並進ずれ補正量(Δy=v)を求めることができる。実際には、各画素についてΔyを算出し、フレーム画像Fの画素全体で平均することにより、1つのフレーム画像Fに対して1つの並進ずれ補正量を得る。
以上の説明では、X方向(横方向)あるいはY方向(縦方向)のいずれか一方向のみを考慮した場合について説明した。X方向およびY方向の両方向を同時に考慮する場合には、これを拡張して式(11)を得て、式のS2が最小となるΔx、Δyを最小自乗法により求めればよい。こうして求められた(Δx,Δy)が並進ずれ補正量(um,vm)に相当する。
S2=Σ{Px・Δx+Py・Δy−(B2−B1)}2 …(11)
S2=Σ{Px・Δx+Py・Δy−(B2−B1)}2 …(11)
以上、勾配法により、対象フレーム画像Ftが基準フレーム画像Fbに対して、x軸方向およびy軸方向に平行移動させて重ね合わせたとした場合の並進ずれ補正量(um,vm)を求める手法を説明した。本実施形態では、さらに、対象フレーム画像Ftを基準フレーム画像Frに対して、回転移動させて重ね合わせる場合も考慮している。以下、その回転ずれ補正量δmを求める手法について説明する。
図8は、画素の回転ずれ補正量を説明する図である。基準フレーム画像Frの座標(x1,y1)の原点(0,0)からの距離をrとし、x1軸からの回転角度をθとすると、rおよびθは、下式で表される。
r=(x12+y12)1/2 …(12)
θ=tan-1(y1/x1) …(13)
r=(x12+y12)1/2 …(12)
θ=tan-1(y1/x1) …(13)
ここで、対象フレーム画像Ftの基準フレーム画像Fbに対する並進ずれはなく、回転ずれのみが発生しているものとし、対象フレーム画像Ftにおける座標(x2,y2)の画素が、基準フレーム画像Fb上の座標(x1,y1)の位置から回転ずれ補正量δmだけ回転した座標(x2,y2)にあるとする。この回転ずれ補正量δmによるx1軸方向の移動量Δxとy1軸方向の移動量Δyは、下式により求められる。
Δx=x2−x1≒−r・δm・sinθ=−δm・y1 …(14)
Δy=y2−y1≒r・δm・cosθ=δm・x1 …(15)
Δx=x2−x1≒−r・δm・sinθ=−δm・y1 …(14)
Δy=y2−y1≒r・δm・cosθ=δm・x1 …(15)
そこで、上記式(11)におけるΔx、Δyは、並進ずれ補正量(um,vm)だけでなく回転ずれ補正量δmによる上記式(14),(15)を加味すると、下式のように表すことができる。
Δx=um−δm・y1 …(16)
Δy=vm+δm・x1 …(17)
Δx=um−δm・y1 …(16)
Δy=vm+δm・x1 …(17)
上記式(16),(17)を上記式(11)に代入すると、下式が得られる。
S2=Σ{Px・(um−δm・y)+Py(vm+δm・x)−(B2−B1)}2
…(18)
すなわち、基準フレーム画像Fbの座標を(x1(i),y1(i))として、対象フレーム画像Ftの全画素の座標値と輝度値を式(18)に代入したときに、S2を最小にする位置ずれ補正量um,vm,δmを最小自乗法によって求めることができる。こうして得られるずれ量um,vm,δmは、以下の式で表される。
um=((mδ×M02−mv 2)cu+(mu×mv−mδ×M11)cv)
+(mv+×M11−mu×M02)cδ/d …(19)
vm=((mu×mv−mδ×M11)cu+(mδ×M20−mu 2)cv
+(mu×M11−mv×M20)cδ))/d …(20)
δm=((mv×M11−mu×M02)cu+(mu×M11−mv×M20)cv
+(M20×M02−M112)cδ)/d …(21)
S2=Σ{Px・(um−δm・y)+Py(vm+δm・x)−(B2−B1)}2
…(18)
すなわち、基準フレーム画像Fbの座標を(x1(i),y1(i))として、対象フレーム画像Ftの全画素の座標値と輝度値を式(18)に代入したときに、S2を最小にする位置ずれ補正量um,vm,δmを最小自乗法によって求めることができる。こうして得られるずれ量um,vm,δmは、以下の式で表される。
um=((mδ×M02−mv 2)cu+(mu×mv−mδ×M11)cv)
+(mv+×M11−mu×M02)cδ/d …(19)
vm=((mu×mv−mδ×M11)cu+(mδ×M20−mu 2)cv
+(mu×M11−mv×M20)cδ))/d …(20)
δm=((mv×M11−mu×M02)cu+(mu×M11−mv×M20)cv
+(M20×M02−M112)cδ)/d …(21)
また、式(19)〜式(21)で用いた、M02,M11,M20,mu,mv,mδ,cu,cv,cδおよびdは、以下に示した式(22)および式(23)を用いて、式(24)〜(33)により求められる。ここで、iは全画素を区別する番号を表している。
以上のように式(19)〜式(33)を用いて、基準フレーム画像Fbと対象フレーム画像Ftとの間の1画素未満の並進ずれおよび回転ずれを表す並進ずれ補正量(um,vm)および回転ずれ補正量(δm)を精度よく求めることができる。
次に、並進ずれ補正量および回転ずれ補正量の推定処理について図9のフローチャートを用いて説明する。
処理を開始すると、始めに、ステップS300において、各変数について初期化を行う。すなわち、式(22)〜式(33)にあるように、画素ごとに総和をとる必要のある変数(M11,mu,mv,mδ,cu,cv,cδ)の値を0に設定する。
次に、ステップS310では、基準フレーム画像Fbの全画素のうちいずれか一つを注目画素に設定する。なお、後に述べるステップS340より処理が戻ってきている場合は、一度設定された画素が再度設定されることがないように注目画素を順次設定する。
次に、ステップS320では、対象フレーム画像Ftから注目画素の位置に対応して位置する対象注目画素を設定する。
次に、ステップS330では、注目画素および対象注目画素について式(24)〜式(33)に基づいて各変数を算出する。
次に、ステップS340では、S310およびS330の処理が全画素について行われたか否かを判断する。全画素について処理が行われていた場合(Yes)、ステップS350に進む。全画素について処理が行われていなかった場合(No)、ステップS310に戻り再度注目画素の設定を行う。
ステップS350では、ステップS330において求めた各変数および式(33)より求められるdから、式(19)〜式(21)を用いて並進ずれ補正量um,vmおよび回転ずれ補正量δmを取得する。ステップS350が終了すると、ずれ補正量取得処理を終了する。
変換手段34は、フレーム取得手段30が取得した複数のフレーム画像Fのうち少なくとも一つを、ずれ補正量取得手段31により求めた並進ずれ補正量(um,vm)および回転ずれ補正量δmに基づいて画像間の並進ずれや回転ずれを少なくするように、並進および回転を行う変換処理を行う。本実施形態の変換手段34では、時系列順に並んだ複数のフレーム画像Fのうち最も過去のフレーム画像Fに対する各フレーム画像Fのずれがなくなるように、複数のフレーム画像Fに変換処理を行うようにして、変換処理後の複数のフレーム画像Fを得る。もっとも、変換処理により位置ずれを完全に解消することができない場合は、位置ずれを低減するようにする処理を行うこととしてもよい。なお、変換処理後のフレーム画像Fの各画素は、後述する合成処理の精度を確保する為に、フレーム画像Fの画素よりも分解能を高くして、高い精度の位置情報をもつようにしている。
次に、以上に述べたフレーム変換処理の処理フローを図10を用いて説明する。
フレーム変換処理を開始すると、始めに、ステップS400で、座標変換する対象フレーム画像Ftの設定を行う。すなわち、フレーム取得手段30取得したフレーム画像Fのうち、基準フレーム画像Fbを除いた対象フレーム画像Ftのうちいずれかひとつを選択する。
フレーム変換処理を開始すると、始めに、ステップS400で、座標変換する対象フレーム画像Ftの設定を行う。すなわち、フレーム取得手段30取得したフレーム画像Fのうち、基準フレーム画像Fbを除いた対象フレーム画像Ftのうちいずれかひとつを選択する。
次に、ステップS410では、ステップS400で設定した対象フレーム画像Ftの全画素のうちいずれか一つを注目画素に設定する。なお、ステップS430より戻ってきている場合は、一度設定された画素が再度設定されることがないように注目画素を設定する。
次に、ステップS420では、式(3)および式(4)に基づいて注目画素の位置を並進ずれ補正量(um,vm)だけ並進、回転ずれ補正量(δm)だけ回転させるようにして変換する。
次に、ステップS430では、S410およびS420の処理が全画素について行われたか否かを判断する。全画素について処理が行われていた場合(Yes)、ステップS440に進む。全画素について処理が行われていなかった場合(No)、ステップS410に戻り注目画素の設定を行う。
次に、ステップS440では、S400〜S430の処理が、対象フレーム画像Ftのうち、基準フレーム画像Fbを除いた全フレーム画像Fについて行われたか否かを判断する。全フレーム画像Fについて処理が行われていなかった場合(No)、ステップS400に戻り再度対象フレーム画像Ftの設定を行う。全フレーム画像Fについて処理が行われていた場合(Yes)、変換処理を終了する。
なお、以上では勾配法を用いた位置ずれ補正量の推定方法について述べてきたが、この推定を行う前に、並進ずれについて並進補正量を画素単位で検出するようにし、フレーム画像F間の並進ずれを画素単位で(大ざっぱに)補正しておいてもよい。このようにすると、勾配法による推定精度が向上し、さらに精度よく並進量情報と回転量情報とを取得することができる。このような場合、フレーム画像F間の並進ずれを画素単位で検出する手法として、パターンマッチング法による推定手法が知られている。以下、パターンマッチング法による推定方法について説明する。
図11は、パターンマッチング法により並進補正量を推定する様子を模式的に示している。ここで、図の上段に示すように、基準フレーム画像Fbの各画素の画素値をB1(x1,y1)、対象フレーム画像Ftにおいて同じ位置の画素の画素値をB2(x1,y1)と表すことにする。パターンマッチング法では、基準フレーム画像Fbの画素(x1,y1)を対象フレーム画像Ftの画素(x1,y1)に対応させる場合を基準として、この場合と、対象フレーム画像Ftの画素(x1+1,y1),(x1−1,y1),(x1,y1+1),(x1,y1−1)に対応させる場合とで、基準フレーム画像Fbと対象フレーム画像Ftの画素値の差が最も小さくなる位置を求める。したがって、以下に示すLの値が最も小さくなる位置を求めるとよい。ここで、Σとあるのは、基準フレーム画像Fbと対象フレーム画像Ftとが重なり合う全領域について、各画素値の差を足し合わせることを意味している。
L=Σ|B2−B1| …(34)
または、
L=Σ(B2−B1)2 …(35)
L=Σ|B2−B1| …(34)
または、
L=Σ(B2−B1)2 …(35)
例えば、基準フレーム画像Fbの画素(x1,y1)を、対象フレーム画像Ftの画素(x1−1,y1)に対応させたときのLが最小となっているとき、次には、基準フレーム画像Fbの画素(x1,y1)を対象フレーム画像Ftの画素(x1−1,y1)に対応させる場合と、この画素(x1−1,y1)の周辺の画素、対象フレーム画像の画素(x1,y1),(x1−2,y1),(x1−1,y1+1),(x1−1,y1−1)のそれぞれに対応させる場合とで、Lが最も小さくなる位置を求める。次に、この最もLが小さい位置の画素について、基準フレーム画像Fbの画素とその周辺の画素とのLを比較するようにして、繰り返し探索を行う。そして、周辺にあるいずれの画素よりLが小さい画素が得られたとき、Lが最小となる画素が決定し、探索を終了する。
例えば、対象フレーム画像Ftの画素(x1−3,y1−1)のLが最小となるとき、基準フレーム画像Fbの画素(x1,y1)を対象フレーム画像Ftの画素(x1−3,y1−1)に対応させる場合と、対象フレーム情報Ftの画素(x1−2,y1−1),(x1−4,y1−1),(x1−3,y1),(x1−3,y1−2)に対応させる場合とで、Lが最も小さくなる位置を求めたとする。探索の中心の画素(x1−3,y1−1)のLが最小となるとき、ここで探索を終了する。このとき、図11の例では探索終了時の対象フレーム画像のずれは(3,1)となる。
一般に、探索終了時に基準フレーム画像Fbの画素(x1,y1)に対応させる対象フレーム画像Ftの画素の位置が(x1−Δx,y1−Δy)となるとき、基準フレーム画像Fbから対象フレーム画像Ftへの並進ずれ補正量は画素単位として(Δx,Δy)と表すことができる。
このようにして求めた画素単位の並進ずれ補正量を用いて、対象フレーム画像Ftについて並進ずれ補正量だけ画素をずらしてから勾配法を用いることにより、より高精度な動き推定を行うことができる。したがって、より高精度な位置ずれ補正量を求めることができる。
次に、図12を用いて合成処理の処理方法について説明する。
合成処理では、フレーム取得手段30が取得した4枚のフレーム画像Fを用いて処理を行う。ここで、図に示すように、このフレーム画像F0〜F3は、それぞれの画素の階調値として、8ビットのRGBデータからなる情報を有している。すなわち、フレーム画像Fは、RGBのそれぞれについて、0〜255までのいずれかの整数で表される階調値をもつ画素から構成されている。合成処理では、この4つのフレーム画像F0〜F3の画素を平均した値を生成フレーム画像Fmの画素にするようにして、生成フレーム画像を取得する。
合成処理では、フレーム取得手段30が取得した4枚のフレーム画像Fを用いて処理を行う。ここで、図に示すように、このフレーム画像F0〜F3は、それぞれの画素の階調値として、8ビットのRGBデータからなる情報を有している。すなわち、フレーム画像Fは、RGBのそれぞれについて、0〜255までのいずれかの整数で表される階調値をもつ画素から構成されている。合成処理では、この4つのフレーム画像F0〜F3の画素を平均した値を生成フレーム画像Fmの画素にするようにして、生成フレーム画像を取得する。
図12では、変換処理を行った4つのフレーム画像F0〜F3を、重ね合わせた様子を示している。ここで、変換処理の行われたフレーム画像Fの画素は、並進および回転されているので、それぞれの画素配列が異なるようにして重なり合っている。したがって、次のようにして平均化処理を行う。
ここで、図12では、基準フレーム画像Fbであるフレーム画像F0と、変換処理の行われたフレーム画像F1〜F3とを重ね合わせ、拡大して表示した様子を示している。また、フレーム画像Fの2/3倍の画素ピッチとなるように生成フレーム画像Fmの画素が示されている。すなわち、生成フレーム画像Fmが、フレーム画像F0〜F3より大きな画素密度・高い解像度をもつように合成を行っている。図12では基準フレーム画像Fbであるフレーム画像F0の画素は白抜きの四角で表示され、対象フレーム画像Ftであるフレーム画像F1〜F3の画素をそれぞれ縦、横、縦横のハッチングを施した四角で表示している。生成フレーム画像Fmの画素は黒塗りの丸で表示している。ここで、12における生成フレーム画像Fmの中心に位置している画素を注目画素として、以下では平均化処理によりこの注目画素の画素情報を算出する手法について述べることとする。なお、ここでいう注目画素とは、フレーム変換処理を説明する際に用いた注目画素とは異なるものである。
平均化処理を行うには、図12にあるように、この注目画素を中心として、所定の値を半径Rにもつ円形の領域35を設定する。そして、フレーム画像F0〜F3を、重ね合わせたときに、この領域35の内部にある画素を全て選択して、平均することにより注目画素の画素値を取得するようにする。すなわち、図12のように、領域35の内部に位置するフレーム画像F0〜F3のそれぞれの画素値をB0〜B3とすると、B0〜B3の画素値を平均することにより、注目画素の画素値を得ることができる。
ここで、各フレーム画像の変換処理後の相対的な位置関係と半径Rの値によっては、領域35の内部に、基準フレーム画像の画素以外の画素がない場合が生じうる。このような場合では、注目画素から半径Rの領域35の外部であっても、注目画素から最近傍の画素を選択するように処理を行うと良い。以上のようにして、基準フレーム画像Fbの全ての画素について、合成処理を行うことにより生成フレーム画像Fmを取得することができる。
次に、以上に述べた合成処理の処理について、図13に示すフローチャートを用いて説明する。合成処理を開始すると、まず、ステップS500において、基準フレーム画像Fbと異なる解像度からなる生成フレーム画像Fmの画素のうちのいずれかを注目画素に設定する。
次に、ステップS510において、注目画素を中心として半径Rの大きさをもつ領域35を設定する。
次に、ステップS520において、領域35の内部に位置する各フレーム画像F0〜F3の画素があるか否かを判断する。領域35の内部に画素がある場合(Yes)、ステップS530へ進む。領域35の内部に画素がない場合(No)、ステップS540へ進む。
ステップS530では、領域35の内部に含まれるフレーム画像F0〜F3の画素の画素値を平均し、得られた値を注目画素の画素値として取得する。画素値を取得すると次にステップS550に進む。
ステップS540では、領域35の内部に含まれるフレーム画像F0〜F3の画素場合には、注目画素から最近傍に位置する画素の画素値を注目画素の画素値として取得する。
次に、ステップS550において、生成フレーム画像Fmのすべての画素についてS500〜S540の処理を行ったか否かを判断する。すべて画素について処理を終えていた場合(Yes)、合成処理は終了する。すべての画素について処理を終えていない場合(No)、ステップS500へ進み、再度、注目画素の選択を行う。
このようにして、生成フレーム画像Fmを得ることができる。ここで、以上に述べた処理によると、領域35に含まれる画素の画素値を平均して得ることにより、得られた生成フレーム画像Fmの各画素値は、小数で表される端数部分をもつことになる。そこで、本発明にある本画像生成装置1は、生成フレーム画像Fmの画素値の端数部分を活用して、さらに優れた画質をもつ生成フレーム画像を取得することを目的として、階調変換手段32による階調変換処理を行う。以下、8ビットからなるフレーム画像Fから、10ビットからなるフレーム画像Fを取得する階調変換処理を行う場合について、以下に説明することとする。
図14は、合成処理および階調変換処理が行われる様子を示した図である。また、図15は、図14で行われる処理を、各画素の階調値をビット表示して示したものである。したがって、図にある四角のひとつひとつには、それぞれ0または1のデータが格納されるようにして、複数ビットからなる各階調値を表現している様子を示している。また、図16は、階調変換処理の処理の流れを示すフローチャートを示す図である。以下、図14〜16を用いて、階調変換処理の説明を行う。
図14および15にあるように、階調変換処理では4つのフレーム画像Fを用いて処理を行う。ここで、このフレーム画像Fは、その各画素の画素値のもつ階調数を表現するために、各画素ごとに8ビットのデータを有している。すなわち、各画素の階調値としては、0〜255のうちいずれかの値をもつことになる。また、画素値はRGBデータとしてR,G,Bそれぞれについて3つの値を持っているが、以下の説明ではこれらのいずれかを代表する画素値を用いて、説明する。実際には、R,G,Bのそれぞれについて同様の処理を行うものである。
また、図14に示すように、合成手段33は、4つのフレーム画像F0〜F3に対して合成処理として上述した平均化処理を行うが、この合成処理で得られる生成フレーム画像Fmの画素値は、整数部分を表す8ビットに加えて、端数部分を表す2ビットの情報を有するようにしている。
階調変換手段34は、合成手段33により行われた生成フレーム画像の端数部分の2ビットを利用して、整数10ビットからなる生成フレーム画像Fmを取得する階調変換処理を行う。ここでの実際の処理は、階調値を2進数表記して表されるデータに対して、端数部分を表すビットをなくするように、ビットシフト演算を行うことにより行う。すなわち、図15に示すように、整数部分8ビットに加えて、端数部分2ビットをもつ生成フレーム画像Fmの階調値を表すデータに対して、2ビットのシフトアップ演算を行っている。ビットシフトした後には、端数部分を表すビットがなくなり、整数部分10ビットからなる階調値が得られる。なお、ビットシフト後にも端数部分を持つようにしても良いが、このときは、端数部分を表す2ビットには値として新たに0を入れておくと良い。
図16は、階調変換処理の処理の流れを示すフローチャートである。以下、図16を用いて階調変換処理の処理を説明する。
まず、ステップS600では、変換する階調数の設定を行う。ここでは、元動画像MAを構成するフレーム画像Fの階調数を取得し、これより生成する生成フレーム画像Fmの階調数を設定する。本実施形態では、整数部分8ビットで階調表現されたフレーム画像Fから整数部分10ビットで階調表現された生成フレーム画像Fmを生成しているが、例えば、液晶ディスプレイにユーザーインターフェイス画面を表示し、ユーザーが生成フレーム画像Fmの階調数を任意に選択するようにしてもよい。
まず、ステップS600では、変換する階調数の設定を行う。ここでは、元動画像MAを構成するフレーム画像Fの階調数を取得し、これより生成する生成フレーム画像Fmの階調数を設定する。本実施形態では、整数部分8ビットで階調表現されたフレーム画像Fから整数部分10ビットで階調表現された生成フレーム画像Fmを生成しているが、例えば、液晶ディスプレイにユーザーインターフェイス画面を表示し、ユーザーが生成フレーム画像Fmの階調数を任意に選択するようにしてもよい。
次に、ステップS610では、生成フレーム画像Fmの各画素値を取得する。すなわち、合成処理により得られた整数部分8ビットに加えて端数部分2ビットからなる画素値を取得する。
次に、ステップS620では、生成フレーム画像Fmの全画素について、図15に示したように、CPU3がビットシフト演算を行い階調変換処理を行う。ここで、生成フレーム画像Fmの各画素について、整数部分10ビットからなる画素値が取得される。ステップS620の処理を終えると、階調変換処理を終了する。
以上、階調変換処理について述べた。このように、複数のフレーム画像Fを合成することによって、第1フレーム画像および元動画像MAより高い階調数をもつ生成フレーム画像Fmを得ることができる。したがって、階調数を高くしながら適切な階調値をもたせ、階調表現力に優れた生成フレーム画像Fmを得ることができる。
なお、本実施形態では、8ビットの階調数から10ビットの階調数をもつ生成フレーム画像Fmに階調変換する場合について説明しているが、本発明はこれに限れるものではなく、例えば、合成処理後の端数部分のビット数として4ビットを持たせるようにすれば、12ビットの階調数をもつ生成フレーム画像Fmに変換することもできる。また、処理に用いるフレーム画像Fの数も4つに限られるものではなく、例えば6つまたは8つなどのフレーム画像Fを用いても良い。処理に用いるフレーム画像Fを多くするほど、合成処理により得られる端数部分(小数部分)の情報量が多くなるので、生成フレーム画像Fmの階調数をより高い階調数に、適切に変換できるようになる。
ここで、合成処理として平均化処理を行う場合には、平均化に用いるフレーム画像Fの数によって、端数部分のビット数が決定される。例えば、4つのフレーム画像Fを用いて平均化処理を行い得られる画素値の端数部分には、2ビットもしくはそれ以下のビット数が得られることになる。したがって、この場合、有効に階調を上げることのできる上げ幅は4倍までとなる。このように、平均化に用いるフレーム画像Fの数をN(Nは整数)とすると、有効に階調を上げることのできる上げ幅はN倍までであると推定することができる。
また、以上に説明した合成処理では、複数のフレーム画像に渡って、画素値を平均することにより行っているが、以下に説明するようにして、変換処理後のフレーム画像Fの画素に対して補間処理を行うことにより合成処理を行っても良い。なお、以下では、この補間処理による合成処理を第2の合成処理と呼ぶことにする。
次に、図17および図18を用いて第2の合成処理の処理方法について説明する。
図では、基準フレーム画像Fbであるフレーム画像F0と、変換処理の行われたフレーム画像F1〜F3とを重ね合わせ、拡大して表示した様子を示している。また、上述した図12と同様に、フレーム画像Fの2/3倍の画素ピッチとなるように生成フレーム画像Fmの画素が示されている。ここで、図17および図18における生成フレーム画像Fmの中心に位置している画素を注目画素として、以下ではこの注目画素の画素情報を算出する手法について述べる。
図では、基準フレーム画像Fbであるフレーム画像F0と、変換処理の行われたフレーム画像F1〜F3とを重ね合わせ、拡大して表示した様子を示している。また、上述した図12と同様に、フレーム画像Fの2/3倍の画素ピッチとなるように生成フレーム画像Fmの画素が示されている。ここで、図17および図18における生成フレーム画像Fmの中心に位置している画素を注目画素として、以下ではこの注目画素の画素情報を算出する手法について述べる。
ここで、本実施形態の生成フレーム画像Fmは、1画素単位で画素位置が規定されているフレーム画像Fよりも細かな単位の画素位置情報を有しているものとして説明する。すなわち、フレーム画像Fより多い画素数をもつ(高い解像度をもつ)生成フレーム画像Fmを生成している。なお、生成される生成フレーム画像Fmは、フレーム画像Fと同じ画素数としてもよいし、フレーム画像Fよりも少ない画素数(低解像度)とすることもできる。
まず、フレーム画像F0〜F3の全画素のうち、注目画素の近傍に存在する画素と注目画素との距離が最も小さい画素をもつフレーム画像Fの選択を行う。例えば、図17においては、フレーム画像F0〜F3の各画素のうち注目画素に最も近い画素40をもつフレーム画像F3が選択される。
最短画素を含むフレーム画像Fを取得すると、このフレーム画像Fの画素情報(YCbCrデータ)を用いて、バイ・リニア法等の所定の補間処理を行い、注目画素の画像データを生成する。その際、YCbCrデータのまま画像データを生成してもよいし、所定の換算式を用いてYCbCrデータを各RGB階調値からなるRGBデータに変換してRGBからなる画像データを生成してもよい。
また、以下に説明するように、本実施形態では補間処理としてはバイ・リニア法を用いているが、バイ・キュービック法の手法を用いてもよい。例えば、鮮明化処理に係る処理量からCPU3への負荷を判断して、CPU3の処理能力に合わせていずれかの補間処理手法を選択するようにしてもよい。
図18は、バイ・リニア法による補間処理を行う様子を模式的に示している。図に示すように、図17で選択されたフレーム画像F3と生成フレーム画像Fmとを重ねて表示しており、取得したフレーム画像Fから最短画素41a(画素40)を含めて、注目画素を囲む周辺の4つの画素41a〜41dの階調データを用いて補間処理を行う。バイ・リニア法は、補間演算に用いる画素41a〜41dの一方から他方へと近づくにつれて階調データの重み付けが徐々に変化していき、その変化が両側の画素の階調データだけに依存する一次関数とされている。ここで、内挿したい注目画素を取り囲む四つの画素41a〜41dで区画される領域を当該注目画素で四つの区画に分割し、その面積比で対角位置のデータに重み付けすれば良い。生成フレーム画像Fmの各画素について、同様のことを行えば、すべての画素についての画素情報を推定することができる。このように、本画像生成装置1は、画素情報を生成する注目画素を順次移動させながら、基準フレーム情報画像Fbと対象フレーム画像Ftの全画素のうち注目画素の周辺に存在する4つの画素の階調データを用いて所定の補間処理を行い、画像データを生成する。
次に、図19に示したフローチャートに基づいて、以上に述べたフレーム合成処理の処理フローについて説明する。
始めに、ステップS700では、生成フレーム画像(静止画像)Fmの解像度を取得する。例えば、液晶ディスプレイ14にユーザーインターフェイス画面を表示し、ユーザーが選択した解像度をコンピュータ2がRAM6に格納するようにして、取得すればよい。
次に、ステップS710では、生成フレーム画像Fmの画素数を決定する。フレーム画像Fの解像度に対する静止画像の解像度の比が画像の拡大率となり、この拡大率となるように合成後の画像データの画素数を決定する。
次に、ステップS720では、生成フレーム画像Fmの全画素のうちいずれか一つを注目画素に設定する。なお、ステップS770より戻ってきている場合は、一度設定された画素が再度設定されることがないように注目画素を設定する。
次に、ステップS730では、注目画素の近傍に位置する対象フレーム画像Ftの画素と生成フレーム画像Fmの注目画素との距離を算出する。
次に、ステップS740では、S730で求めた距離が最小となる画素を取得し選出する。
次に、ステップS750では、S740で選出された画素を含んだフレーム画像Fから、注目画素に対応する位置を囲むように位置した4つの画素の画素情報を取得する。
次に、ステップS760では、注目画素に対応する位置を囲むように位置した4つの画素の画素情報から補間処理を行い、注目画素位置における画素情報を求める。
次に、ステップS770では、生成フレーム画像Fmの全ての画素について、S720〜S760の処理が行われたか否かを判断する。全ての画素について処理が行われていない場合には(No)、ステップS720に戻る。全ての画素について処理が行われた場合には(Yes)、合成処理を終了する。
以上に述べた処理により、複数のフレーム画像Fを合成することによって、より高い階調数と適切な画素情報をもつ生成フレーム画像Fmを得ることができる。したがって、動画像の1シーンをより精細な静止画として表した静止画像を取得することができる。
前記実施形態によれば、以下に示す効果が得られる。
(1)鮮明化処理を行うことにより、元動画像MAからより高い階調数をもちながら適切な画素情報をもつ生成フレーム画像Fmを得ることができる。また、階調数を増やすことにより増える情報量については、変換処理後の複数のフレーム画像Fから取得するようにしているので、乱数を用いて階調数を増やす方法に比べて、元のフレーム画像Fに忠実でありながら、階調数を増やした画像を得ることができる。
(1)鮮明化処理を行うことにより、元動画像MAからより高い階調数をもちながら適切な画素情報をもつ生成フレーム画像Fmを得ることができる。また、階調数を増やすことにより増える情報量については、変換処理後の複数のフレーム画像Fから取得するようにしているので、乱数を用いて階調数を増やす方法に比べて、元のフレーム画像Fに忠実でありながら、階調数を増やした画像を得ることができる。
(2)合成処理として、平均化を行う場合には、注目画素から半径Rの領域の内部にある画素の画素値について平均するようにして画素値を取得しているので、注目画素の位置が、基準フレーム画像の画素の位置と重なっているか否かに関わらず、平均した画素値を得ることができる。したがって、基準フレーム画像Fbより高い画素密度となるように、注目画素を設定して処理を行えば、階調数を増やしながら解像度を上げることができる。したがって、空間的により精細な表現がなされ、画質の優れた画像を得ることができる。
(3)補間処理を行う第2の合成処理を行った場合では、基準フレーム画像Fbより高い画素密度となるように注目画素を設定して処理を行えば、階調数を増やしながら解像度を上げることができる。したがって、空間的により精細な表現がなされ、画質の優れた画像を得ることができる。
(4)合成処理においては、第1フレーム画像Fの複数の画素に平均処理または補間処理を行うことにより、生成フレーム画像Fmのひとつの画素の画素値を得るようにしているので、第1フレーム画像Fのもつノイズの影響を低減した生成フレーム画像Fmが得られる効果が得られる。したがって、画質に優れた第2フレーム情報を得ることができる。
本画像生成装置1は、動画像からより画質の優れた静止画像を取得する動画像生成装置とすることもできる。本発明の第2の実施形態として、この動画像生成装置100について以下に説明する。
本動画像生成装置100は、複数のフレーム画像Fから構成される元動画像MAについて、フレーム画像Fのひとつひとつに対して鮮明化処理を行うことにより、解像度が高く画質の優れた動画を得るものである。図20に、第2の実施形態に係る動画像生成装置の処理を説明する模式図を示す。
本動画像生成装置100は、静止画像生成装置100と同様の構成となり、フレーム取得手段30と、ずれ補正量取得手段31と、変換手段32と、合成手段33と、階調変換手段34と、から構成されている。フレーム取得手段30は、元動画像MAより、時系列に連続した4つのフレーム画像Fを取得する。ずれ補正量取得手段31、変換手段32および合成手段33が行う処理は、画像生成装置1と同様の処理を行う。そして、図20に示すように、本動画像生成装置100では、階調変換手段34により取得した生成フレーム画像Fmを、生成動画MBのファイルに記録するようにする。
ここで、フレーム取得手段30は取得している4つのフレーム画像Fのうち、1つのフレーム画像Fを入れ替えるようにして、時系列に連続した4つのフレーム画像Fを取得するようにする。ずれ補正量取得手段31は、フレーム取得手段30が取得した複数のフレーム画像Fから、複数のフレーム画像F間の回転ずれを表す回転ずれ量、および並進ずれを表す並進ずれ量を求め、これを補正するための補正量である回転ずれ補正量および並進ずれ補正量を取得する。変換手段32は、ずれ補正量取得手段31が取得した位置ずれ補正量に基づいて、対象フレームFtを基準フレーム画像Fbに合わせるように画素を置き換える処理(変換処理)を行い、時系列に連続した4つのフレーム画像F間の並進ずれおよび回転ずれを補正する。階調変換手段34は、この新しい4つのフレーム画像Fに対して階調変換処理を行い、取得した生成フレーム画像Fmを、生成動画MBのファイルに記録するようにして、これらの動作を次々にフレーム画像を入れ替えながら繰り返すことによって、多数の生成フレーム画像Fmからなる生成動画MBを取得する。
このようにして、鮮明化処理の行われた複数の生成フレーム画像Fmからなる動画像MBを生成する動画像生成装置100を得ることができる。したがって、本実施形態にある動画像生成装置100では、元動画像MAより高い階調数および解像度をもつ生成動画像MBを得ることができる。
前記第2の実施形態によれば、以下の効果を得ることができる。
(5)多数のフレーム画像からなる動画ファイルから、より高い階調数をもつことにより、階調表現力が高まり画質の優れた動画像を得ることができる。
(5)多数のフレーム画像からなる動画ファイルから、より高い階調数をもつことにより、階調表現力が高まり画質の優れた動画像を得ることができる。
(6)多数のフレーム画像からなる動画ファイルから、より高い解像度をもつことにより、より精細な表現ができる画質の優れた動画像を得ることができる。
以上、本発明の実施形態を説明したが、本発明はこうした実施の形態に何ら限定されるものではなく、本発明の趣旨を逸脱しない範囲内において様々な形態で実施することができる。以下、変形例を挙げて説明する。
(変形例1)前記実施形態では、階調変換手段により、フレーム画像Fより階調数の高い、生成フレーム画像を取得した。しかし、本発明は、階調変換手段34により階調数を下げることもできる。すなわち、合成処理後の画素値に対して整数部分のビット数が少なくなるようにビットシフトすることにより階調数を下げることができる。例えば、液晶ディスプレイ14などの表示装置が再現できる階調数が、フレーム画像Fのもつ階調数より低い場合、鮮明化処理の階調変換処理において、表示装置にあわせるようにして階調数を下げることができる。
(変形例2)前記実施形態の合成処理では、変換処理後のフレーム画像Fを重ね合わせ、注目画素を中心として半径Rからなる円形の領域35にある画素を選択して、平均処理を行った。合成処理に用いる画素を選択するための領域はこの形状に限られず、方形状などの領域を設定することもできる。第2の変形例として、基準フレーム画像Fbの画素ピッチと同じ値を1辺の長さにもつ方形状の領域を、基準フレーム画像Fbの注目画素を中心に設定するとしても良い。このようにすれば、生成フレーム画像を生成する際に、各注目画素についての領域35は互いに重なり合うことがなく、互いに隣接して並ぶことになるので、領域35を隙間なく整然と並べることができる。したがって、階調変換処理に用いたフレーム画像Fのすべての画素を確実に1度だけ選択するようにして処理を行うことができるので、再現性のよい生成フレーム画像Fmを得ることができる。
(変形例3)前記実施形態では、8ビットで階調表現されたフレーム画像から10ビットで階調表現された生成フレーム画像を取得しているが、これに限られず、例えば12ビットといった任意の階調数を得るようにしても良い。また、液晶ディスプレイ14にユーザーインターフェイスを表示し、キーボート15またはマウス16などの入力部を操作して、取得する画像の階調数をユーザーが任意に選択できるようにしてもよい。
(変形例4)前記画像生成装置1または前記動画像生成装置100を内部に備えた動画像撮像装置(例えば、デジタルビデオカメラ)としても良い。このようにすれば、ユーザーは、動画像撮像装置により撮影した動画像から階調数を高めた画像を得ることができる。例えば、動画像撮像装置に動画像を再生表示できる表示部が備わっていた場合であっては、撮影した動画像を表示部で再生することによって、ユーザーが気に入ったシーンの画像を選択して、その画像をより階調数を高めた画像として取得するといった使い方が可能になる。
1…画像生成装置、2…コンピュータ、3…CPU、12…デジタルビデオカメラ、13…プリンタ、14…表示手段としての液晶ディスプレイ、15…入力部としてのキーボード、16…入力部としてのマウス、17…記録媒体としてのCD−ROM、30…フレーム取得手段、31…ずれ補正量取得手段、32…変換手段、33…合成手段、34…階調変換手段、100…動画像生成装置、MA…元動画像、MB…生成動画像、F…フレーム画像、Fb…基準フレーム画像、Ft…対象フレーム画像、Fm…生成フレーム画像、δ…回転ずれ量、u…X方向の並進ずれ量、v…Y方向の並進ずれ量、δm…回転ずれ補正量、um…X方向の並進ずれ補正量、vm…Y方向の並進ずれ補正量、p…フレーム画像の順番を示す変数、q…フレーム画像の順番を示す変数。
Claims (14)
- 所定の階調数をもつ画素情報からなる第1フレーム情報を時系列に連続してなる第1の画像情報より、第2フレーム情報を生成する画像生成装置であって、
第1の画像情報から複数の第1フレーム情報を取得するフレーム取得手段と、
前記複数の第1フレーム情報のうちいづれか1つの第1フレーム情報を基準にして、前記複数の第1フレーム情報の相対的な位置ずれを補正する位置ずれ補正量を取得するずれ補正量取得手段と、
前記位置ずれ量に基づき、前記複数の第1フレーム情報のうち少なくとも1つについて位置ずれ量を低減または解消する変換処理を行う第1の変換手段と、
変換処理後の前記複数の第1フレーム情報から少なくとも1つの第1フレーム情報を合成することにより、前記第2フレーム情報を生成する合成処理を行う合成手段と、
前記第2フレーム情報を変換して、前記第1フレーム情報と異なる階調数をもつ前記第2フレーム情報を取得する第2の変換手段と、を備えたことを特徴とする画像生成装置。 - 請求項1に記載の画像生成装置において、
前記第2の変換手段は、前記第1フレーム情報より多数の階調数をもつ画素情報からなる前記第2フレーム情報を生成することを特徴とする画像生成装置。 - 請求項1または2に記載の画像生成装置において、
前記合成手段は、変換処理後の前記複数の第1フレーム情報から少なくとも1つの前記第1フレーム情報を選択し、選択した前記第1フレーム情報の複数の画素情報を合成して、前記第2フレーム情報のひとつの画素情報を取得するようにして、前記第2フレーム情報を生成することを特徴とする画像生成装置。 - 請求項3に記載の画像生成装置において、
前記合成手段は、選択した前記第1フレーム情報の複数の画素情報を合成して、端数をもつ画素情報からなる前記第2フレーム情報を生成し、
前記第2の変換手段は、前記第2フレーム情報の画素情報がもつ端数を利用して階調数を変換する処理を行うことにより、前記第1フレーム情報より多数の階調数をもつ前記第2フレーム情報を取得することを特徴とする画像生成装置。 - 請求項3または4に記載の画像生成装置において、
前記合成手段は、選択した変換処理後の前記複数の第1フレーム情報の複数の画素情報に平均化処理を行うことにより、端数をもつ画素情報からなる前記第2フレーム画像を取得することを特徴とする画像生成装置。 - 請求項3または4に記載の画像生成装置において、
前記合成手段は、選択した前記第1フレーム情報の複数の画素情報に対して、補間処理を行うことにより、端数をもつ画素情報からなる前記第2フレーム情報を取得することを特徴とする画像生成装置。 - 請求項1ないし6のいずれかの一項に記載の画像生成装置において、
前記合成手段は、前記第1フレーム情報より高い解像度を持つ前記第2フレーム情報を生成することを特徴とする画像生成装置。 - 請求項1ないし7のいずれかの一項に記載の画像生成装置において、
前記第2の変換手段は、静止画像を表示する表示手段が再現できる階調数に合わせた階調数をもつ前記第2フレーム情報を生成することを特徴とする画像生成装置。 - 請求項8に記載の画像生成装置において、
前記第2の変換手段は、入力部からの操作に対応して階調数を選択し、選択した階調数をもつ前記第2のフレーム情報を生成することを特徴とする画像生成装置。 - 請求項1ないし9のいずれか一項に記載の画像生成装置を備えた動画像撮像装置。
- 請求項1ないし9のいずれか一項に記載の画像生成装置を備え、所定の階調数をもつ画素情報からなる第1フレーム情報を時系列に連続してなる第1の画像情報より、第2フレーム情報からなる第2の画像情報を生成する動画像生成装置であって、
前記フレーム取得手段、前記ずれ量取得手段、前記第1の変換手段、前記合成手段および前記第2の変換手段が各々の処理を順次繰り返して前記第2フレーム情報を時系列に生成することにより前記第2の画像情報を生成することを特徴とする動画像生成装置。 - 所定の階調数をもつ画素情報からなる第1フレーム情報を時系列に連続してなる第1の画像情報より、第2フレーム情報を生成する画像生成方法であって、
第1の画像情報から複数の第1フレーム情報を取得するフレーム取得ステップと、
前記複数の第1フレーム情報のうちいづれか1つの第1フレーム情報を基準にして、前記複数の第1フレーム情報の相対的な位置ずれを補正する位置ずれ補正量を取得するずれ補正量取得ステップと、
前記位置ずれ量に基づき、前記複数の第1フレーム情報のうち少なくとも1つについて位置ずれ量を低減または解消する変換処理を行う第1の変換ステップと、
変換処理後の前記複数の第1フレーム情報から少なくとも1つの第1フレーム情報を合成することにより、前記第2フレーム情報を生成する合成処理を行う合成ステップと、
前記第2フレーム情報を変換して、前記第1フレーム情報と異なる階調数をもつ前記第2フレーム情報を取得する第2の変換ステップと、を備えたことを特徴とする画像生成方法。 - 所定の階調数をもつ画素情報からなる第1フレーム情報を時系列に連続してなる第1の画像情報より、第2フレーム情報を生成する画像生成プログラムであって、
コンピュータを
第1の画像情報から複数の第1フレーム情報を取得するフレーム取得手段、
前記複数の第1フレーム情報のうちいづれか1つの第1フレーム情報を基準にして、前記複数の第1フレーム情報の相対的な位置ずれを補正する位置ずれ補正量を取得するずれ補正量取得手段、
前記位置ずれ量に基づき、前記複数の第1フレーム情報のうち少なくとも1つについて位置ずれ量を低減または解消する変換処理を行う第1の変換手段、
変換処理後の前記複数の第1フレーム情報から少なくとも1つの第1フレーム情報を合成することにより、前記第2フレーム情報を生成する合成処理を行う合成手段、
前記第2フレーム情報を変換して、前記第1フレーム情報と異なる階調数をもつ前記第2フレーム情報を取得する第2の変換手段、として機能させることを特徴とする画像生成プログラム。 - 請求項13の画像生成プログラムを記録したコンピュータ読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004195539A JP2006018571A (ja) | 2004-07-01 | 2004-07-01 | 画像生成装置、画像撮像装置、動画像生成装置、画像生成方法、画像生成プログラムおよび画像生成プログラムを記録した記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004195539A JP2006018571A (ja) | 2004-07-01 | 2004-07-01 | 画像生成装置、画像撮像装置、動画像生成装置、画像生成方法、画像生成プログラムおよび画像生成プログラムを記録した記録媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2006018571A true JP2006018571A (ja) | 2006-01-19 |
Family
ID=35792787
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004195539A Withdrawn JP2006018571A (ja) | 2004-07-01 | 2004-07-01 | 画像生成装置、画像撮像装置、動画像生成装置、画像生成方法、画像生成プログラムおよび画像生成プログラムを記録した記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2006018571A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8488019B2 (en) | 2010-01-15 | 2013-07-16 | Olympus Imaging Corp. | Image-capturing device, image-capturing method and storage medium storing image-capturing program for generating a wide dynamic range image |
JP2014222442A (ja) * | 2013-05-14 | 2014-11-27 | 日本放送協会 | 空間・階調超解像装置及びプログラム |
JP2023008815A (ja) * | 2021-07-02 | 2023-01-19 | リアルック アンド カンパニー カンパニー リミテッド | 感知標識を利用した装備の組立ばらつき補正および工程誤差補正装置および、これを利用した組立ばらつき補正および工程遂行誤差補正方法 |
-
2004
- 2004-07-01 JP JP2004195539A patent/JP2006018571A/ja not_active Withdrawn
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8488019B2 (en) | 2010-01-15 | 2013-07-16 | Olympus Imaging Corp. | Image-capturing device, image-capturing method and storage medium storing image-capturing program for generating a wide dynamic range image |
JP2014222442A (ja) * | 2013-05-14 | 2014-11-27 | 日本放送協会 | 空間・階調超解像装置及びプログラム |
JP2023008815A (ja) * | 2021-07-02 | 2023-01-19 | リアルック アンド カンパニー カンパニー リミテッド | 感知標識を利用した装備の組立ばらつき補正および工程誤差補正装置および、これを利用した組立ばらつき補正および工程遂行誤差補正方法 |
JP7423091B2 (ja) | 2021-07-02 | 2024-01-29 | リアルック アンド カンパニー カンパニー リミテッド | 感知標識を利用した装備の組立ばらつき補正および工程誤差補正装置および、これを利用した組立ばらつき補正および工程遂行誤差補正方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP1357760B1 (en) | Image processing device and method | |
JP5365823B2 (ja) | 画像合成装置、画像合成方法、画像合成プログラム及び記録媒体 | |
JP4461937B2 (ja) | 低解像度の複数の画像に基づく高解像度の画像の生成 | |
EP1351521B1 (en) | Imaging device | |
JP4419499B2 (ja) | 画像生成装置、画像ずれ量検出装置、画像生成方法、画像ずれ量検出方法、画像生成プログラムおよび画像ずれ量検出プログラム | |
JP4063306B1 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP5006814B2 (ja) | 撮像装置 | |
JP2011188391A (ja) | 画像処理装置および方法、並びにプログラム | |
RU2533689C2 (ru) | Устройство и способ, программа обработки видео, и устройство формирования изображений, смонтированное с устройством обработки видео | |
JP2011119974A (ja) | パノラマ画像合成装置、パノラマ画像合成方法、及びプログラム | |
US20010028358A1 (en) | Image reducing device and method | |
JP4360177B2 (ja) | 静止画像生成装置、静止画像生成方法、静止画像生成プログラム、および静止画像生成プログラムを記録した記録媒体 | |
JP5527035B2 (ja) | 画像処理プログラム、画像処理装置および撮像装置 | |
JP2006018571A (ja) | 画像生成装置、画像撮像装置、動画像生成装置、画像生成方法、画像生成プログラムおよび画像生成プログラムを記録した記録媒体 | |
JP2005348221A (ja) | 画像生成装置、静止画像生成装置、画像ずれ量検出装置、画像整列装置、画像生成方法、画像生成プログラムおよび画像生成プログラムを記録した記録媒体 | |
JP5400655B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、及び、電子機器 | |
JP2005141614A (ja) | 低解像度の複数の画像に基づく高解像度の画像生成における処理時間の短縮化 | |
JP3914810B2 (ja) | 撮像装置、撮像方法及びそのプログラム | |
JP2011151597A (ja) | 画像処理装置および画像処理プログラム並びに電子カメラ | |
JP2005197910A (ja) | 動画中の特定シーンの静止画の生成 | |
JP4419500B2 (ja) | 静止画像生成装置、静止画像生成方法、静止画像生成プログラム、および静止画像生成プログラムを記録した記録媒体 | |
JP2005275765A (ja) | 画像処理装置、画像処理方法、画像処理プログラムおよびそのプログラムを記録した記録媒体 | |
JP2013150123A (ja) | 画像処理装置、その制御方法、プログラム、及び記憶媒体 | |
JP3780587B2 (ja) | 色彩データ変換装置 | |
JP5720034B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20070403 |
|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20070904 |