JP2004234624A - 静止画像生成装置、静止画像生成方法、静止画像生成プログラム、および静止画像生成プログラムを記録した記録媒体 - Google Patents

静止画像生成装置、静止画像生成方法、静止画像生成プログラム、および静止画像生成プログラムを記録した記録媒体 Download PDF

Info

Publication number
JP2004234624A
JP2004234624A JP2003339894A JP2003339894A JP2004234624A JP 2004234624 A JP2004234624 A JP 2004234624A JP 2003339894 A JP2003339894 A JP 2003339894A JP 2003339894 A JP2003339894 A JP 2003339894A JP 2004234624 A JP2004234624 A JP 2004234624A
Authority
JP
Japan
Prior art keywords
image data
image
still
frame image
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003339894A
Other languages
English (en)
Other versions
JP4701598B2 (ja
Inventor
Masashi Aiiso
政司 相磯
Tatsuya Hosoda
達矢 細田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2003339894A priority Critical patent/JP4701598B2/ja
Priority to US10/751,202 priority patent/US20040196376A1/en
Publication of JP2004234624A publication Critical patent/JP2004234624A/ja
Application granted granted Critical
Publication of JP4701598B2 publication Critical patent/JP4701598B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2624Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of whole input images, e.g. splitscreen

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Signal Processing For Recording (AREA)
  • Image Processing (AREA)
  • Television Systems (AREA)

Abstract

【課題】 複数の画像データを用いて合成処理を行う場合に、処理時間を短縮し得る技術を提供する。
【解決手段】 本発明の静止画像生成装置は、複数の画像データから、時系列に並んだ複数の第1の画像データを取得する画像取得部と、画像取得部で取得した複数の第1の画像データを保存する画像保存部と、画像保存部に保存されている複数の第1の画像データから、各画像データの表す画像間の位置ずれを補正するための補正量を推定する補正量推定部と、推定した補正量に基づいて、複数の第1の画像データにおける画像間の位置ずれを補正するとともに、補正した複数の第1の画像データを合成して、第1の画像データに比べて高解像度な第2の画像データを静止画像データとして生成する画像合成部とを備える。
【選択図】 図1

Description

本発明は、複数の比較的低解像度の画像データである複数の画像データから、比較的高解像度の静止画像データを生成可能な、静止画像生成装置、静止画像生成方法、静止画像生成プログラム、および静止画像生成プログラムを記録した記録媒体に関する。
デジタルビデオカメラなどで撮影して記録された動画像データは、複数の比較的低解像度の画像データ(例えば、フレーム画像データなど。)を有している。従来、この動画像データから1つのフレーム画像データを取得し、それを静止画像として活用することが行われている。また、動画像データから、フレーム画像データを取得する時に、1つのフレーム画像データだけでなく、複数のフレーム画像データを取得し、それらの画像データを重ね合わせて画素データの補間をする合成処理を行うことで、より高解像度の静止画像データが生成される。このように複数のフレーム画像データを重ね合わせて合成する方法は、単純に1つのフレーム画像を解像度変換する方法に比べて高画質化が期待できる。なお、ここで、解像度とは、1つの画像を構成する画素の密度あるいは画素数を意味している。
また、上述のような静止画像データを作成する技術として、例えば、特許文献1には、連続する(n+1)枚のフレーム画像から1枚のフレーム画像を基準フレーム画像として選択し、この基準フレーム画像に対する他のn枚のフレーム画像(対象フレーム画像)の動きベクトルをそれぞれ算出し、各動きベクトルに基づいて、(n+1)枚のフレーム画像を合成して1枚の高解像度な画像を生成する技術が開示されている。
特開平11−164264号公報
しかしながら、上述のように複数の低解像度のフレーム画像データを用いて合成処理を行い、1つの高解像度画像を作成する場合には、1つのフレーム画像から、画素データの補間により1つの高解像度画像を作成する場合と比べて、処理時間が増大するため、処理時間を短縮したいという要望があった。
また、上述のように動画像データから取得する場合に限らず、単に、複数の画像データから取得する場合にも、同様の要望があった。
従って、本発明は、上記課題にかんがみてなされたもので、複数の画像データを用いて合成処理を行う場合に、処理時間を短縮し得る技術を提供することを目的とする。
上記目的の少なくとも一部を達成するために、本発明の静止画像生成装置は、複数の画像データから、静止画像データを生成するための静止画像生成装置であって、
前記複数の画像データから、時系列に並んだ複数の第1の画像データを取得する画像取得部と、
前記画像取得部で取得した前記複数の第1の画像データを保存する画像保存部と、
前記画像保存部に保存されている前記複数の第1の画像データから、各画像データの表す画像間の位置ずれを補正するための補正量を推定する補正量推定部と、
推定した前記補正量に基づいて、前記複数の第1の画像データにおける前記画像間の位置ずれを補正するとともに、補正した前記複数の第1の画像データを合成して、前記第1の画像データに比べて高解像度な第2の画像データを前記静止画像データとして生成する画像合成部と、
を備えたことを要旨とする。
このようにすれば、第1の画像データと比べて高解像度な第2の画像データを生成する時に、改めて、複数の画像データから時系列に並んだ複数の第1の画像データを取得する必要がなく、画像保存部に保存された複数の第1の画像データを用いて、第2の画像データを生成することができるので、その分、処理時間を短縮することができる。
なお、前記複数の画像データは、動画像データを構成していてもよい。この場合には、動画像データから、静止画像データを生成することができる。
また、画像データ取り込みを指示された際に、前記画像取得部は、前記複数の画像データから前記複数の第1の画像データを取得し、前記画像保存部は、取得した前記複数の第1の画像データを保存するようにしてもよい。
例えば、複数の画像データが動画像データを構成している場合であって、その動画像のファイル形式が後述するようなランダムアクセス形式である場合には、動画像データから直接的に複数の第1の画像データを取得することができるので、画像データの取り込みを指示された際に、このような処理が可能となる。
また、前記画像取得部は、前記複数の画像データから前記第1の画像データを順次取得すると共に、前記画像保存部は、保存している前記複数の第1の画像データを、取得した前記第1の画像データで順次更新し、
画像データ取り込みを指示された際に、前記画像保存部は、保存している前記複数の第1の画像データを保持するようにしてもよい。
例えば、複数の画像データが動画像データを構成している場合であって、その動画像のファイル形式が後述するようなシーケンシャルアクセス形式である場合には、動画像データから直接的に複数の第1の動画像データを取得することが困難であるが、このように、動画像データから第1の画像データを順次取得し、取得した第1の画像データで既に保存されている複数の第1の画像データを順次更新するようにすれば、画像データ取り込みを指示された際に、保存している前記複数の第1の画像データを保持することにより、複数の第1の画像データを容易に取り込むことができる。
前記画像保存部は、前記複数の第1の画像データの他に、前記画像合成部で生成された前記第2の画像データも保存するようにしてもよい。
このようにすれば、生成された第2の画像データをいつでも読み出して利用することが可能となる。
前記画像合成部が、補正した前記複数の第1の画像データを合成して前記第2の画像データを生成する際に、複数種類の合成方法を選択的にとりうる場合に、
前記画像保存部は、異なる種類の合成方法で合成された前記第2の画像データを、合成方法の種類ごとに、それぞれ保存するようにしてもよい。
このようにすれば、異なる種類の合成方法で合成された第2の画像データを、必要に応じて読み出して利用することができる。
また、補正した前記複数の第1の画像データについて、一度合成したことのある合成方法と同じ種類の合成方法で再度合成することを指示された場合に、前記画像合成部は、補正した前記複数の第1の画像データの合成を行うことなく、前記画像保存部から、前記同じ種類の合成方法ですでに合成されている前記第2の画像データを読み出すようにしてもよい。
このようにすれば、同様の合成を重複して行うことがないため、その分、処理時間を短縮することができる。
前記画像保存部は、前記複数の第1の画像データの他に、取得した前記複数の第1の画像データのうちの少なくとも1つの画像データの、前記複数の画像データにおける時間的な位置を表す位置情報を保存するようにしてもよい。
このようにすれば、保存している位置情報を用いることにより、複数の第1の画像データのうちの少なくとも1つの画像データについて、その画像データが存在していた複数の画像データにおける時間的な位置に、容易にアクセスすることができるので、複数の画像データにおける、その位置の近傍にある他の画像データを取り込みたい場合に、その取り込み時間を短縮することができる。
前記画像合成部から生成される前記第2の画像データからサムネイル画像データを作成するサムネイル画像作成部と、
少なくとも前記サムネイル画像データの表すサムネイル画像を表示する画像表示部と、を備え、
前記画像表示部は、前記サムネイル画像を、前記サムネイル画像に対応する前記第2の画像データに関連する所定の情報とともに表示するようにしてもよい。
このようにすれば、ユーザは、生成された第2の画像データに対応したサムネイル画像だけでなく、そのサムネイル画像と一緒に、第2の画像データに関連した情報も見ることができるので、生成された第2の画像データの内容を総合的に把握することができる。
前記画像合成部が、補正した前記複数の第1の画像データを合成して前記第2の画像データを生成する際に、複数種類の合成方法を選択的にとりうる場合に、
前記所定の情報は、前記サムネイル画像データに対応する前記第2の画像データを生成する際に用いた合成方法を表す情報であってもよい。
このようにすれば、ユーザは、サムネイル画像と一緒に、その情報を見るだけで、生成された第2の画像データが、複数種類の合成方法のうちのどの合成方法が行われたかを容易に知ることができる。
なお、本発明は、上記した静止画像生成装置などの装置発明の態様に限ることなく、静止画像生成方法などの方法発明としての態様で実現することも可能である。さらには、それら方法や装置を構築するためのコンピュータプログラムとしての態様や、そのようなコンピュータプログラムを記録した記録媒体としての態様や、上記コンピュータプログラムを含み搬送波内に具現化されたデータ信号など、種々の態様で実現することも可能である。
また、本発明をコンピュータプログラムまたはそのプログラムを記録した記録媒体等として構成する場合には、上記装置の動作を制御するプログラム全体として構成するものとしてもよいし、本発明の機能を果たす部分のみを構成するものとしてもよい。
以下、下記の順序に従って本発明の実施の形態を説明する。
(1).実施例:
A.静止画像生成システムの構成:
B.処理の概略:
B1.処理全体の流れ:
B1−1.シーケンシャルアクセスモード:
B1−2.ランダムアクセスモード:
B1−3.データリストの作成:
B1−4.静止画像生成処理:
C.静止画像データ生成の手順:
C1.フレーム画像データの取り込み:
C2.補正量推定処理:
C3.合成処理:
D.効果:
(2).変形例:
(1).実施例:
A.静止画像生成システムの構成:
図1は、本発明の一実施例である静止画像生成システム100の概略構成を示している。本システム100は、パーソナルコンピュータ10(以下、PC10とも呼ぶ。)、動画像データを出力可能なデジタルビデオカメラ30等から構成されている。PC10は、動画像データに含まれる複数の比較的低解像度のフレーム画像データから比較的高解像度の静止画像を表現するフレーム画像データを生成する静止画像生成装置として機能する。
なお、本実施例においては、フレーム画像データが表す画像をフレーム画像とも呼ぶ。このフレーム画像は、ノンインターレース方式で表示可能な静止画像を意味している。さらに、複数のフレーム画像を合成することで生成される比較的高解像度な静止画像データを生成静止画像データとも呼び、その生成静止画像データが表す画像を生成静止画像とも呼ぶ。
PC10は演算処理の中枢をなすCPU11と、ROM12と、RAM13と、DVD−ROMドライブ15(以下、DVDドライブ15とも呼ぶ。)と、1394用I/O17aと、各種インターフェイス(I/F)17b〜eと、HDD(ハードディスク)14と、CRT18aと、キーボード18bと、マウス18cと、を備えている。
HDD14には、オペレーティングシステム(OS)や静止画像データ等を作成可能なアプリケーションプログラム(APL、後述するアプリケーションXを含む。)等が格納されている。実行時には、CPU11がこれらのソフトウェアを適宜RAM13に転送し、RAM13を一時的な作業領域として適宜アクセスしながらプログラムを実行する。なお、HDD14は、少なくとも、ドライブ領域C(以下、Cドライブとも呼ぶ。)と、その下層にフォルダ領域またはファイル保存領域を備え、さらにフォルダ領域の下層に、ファイル保存領域を備えている。
1394用I/O17aは、IEEE1394規格に準拠したI/Oであり、動画像データを生成して出力可能なビデオカメラ30等が接続されるようになっている。
CRTI/F17bには、フレーム画像を表示することが可能なディスプレイ18aが接続され、入力I/F17cにはキーボード18bやマウス18cが操作用入力機器として接続されている。
プリンタI/F17eには、パラレルI/Fケーブルを介してプリンタ20が接続されている。むろん、USBケーブル等を介してプリンタ20を接続する構成としてもよい。
DVD−ROMドライブ15には、動画像データを記憶したDVD−ROM15aが挿入されており、動画像データを出力可能となっている。
バッファ140は、後述するように、フレーム画像データを一時記憶できるバッファ領域301〜304を備えている。RAM13は、後述するデータリストを保存するデータリスト保存領域115を備えている。
図1に示すように、CPU11は、アプリケーションXを実行することにより、システムバス10aを介して、各部と接続されており、PC10の全体の制御を行う。図2は、本実施例の静止画像生成システムにおけるCPU11およびRAM13の機能を示すブロック図である。生成静止画像を生成する処理を行う場合、CPU11は、フレーム画像管理部110、フレーム画像取得部111、および静止画像生成部112として機能する。フレーム画像管理部110は、各部の制御を行い、生成静止画像を生成する動作を全体的に制御する。例えば、キーボード18bやマウス18cからユーザによって動画像の再生の指示が入力されると、フレーム画像管理部110は、DVDドライブ15に挿入されたDVD−ROM15aあるいは、デジタルビデオカメラ30の記録媒体であるデジタルビデオテープ(図示せず)などからRAM13に動画像データを読み込む。フレーム画像管理部110は、読み込んだ動画像データが有する複数のフレーム画像を、ビデオドライバを介してCRT18aに順に表示する。これにより、CRT18a上で動画像が表示される。また、フレーム画像管理部110は、後述するように、フレーム画像取得部111、および静止画像生成部112の動作を制御して、複数フレームのフレーム画像データから静止画像データを生成する。
また、CPU11は、生成静止画像データをプリンタ20に印刷させる制御も行う。
PC10では、上述したハードウェアを基礎としてバイオスが実行され、その上層にてOSとAPLとが実行される。OSには、プリンタI/F17eを制御するプリンタドライバ等の各種のドライバ類が組み込まれ、ハードウェアの制御を実行する。プリンタドライバは、プリンタI/F17eを介してプリンタ20と双方向の通信を行うことが可能であり、APLから画像データを受け取って印刷ジョブを作成し、プリンタ20に送出する。
以上のようにして、上記ハードウェアと上記ソフトウェアプログラムとが協働して静止画像生成装置を構築する。
B.処理の概略:
B−1.処理全体の流れ:
本実施例において、アプリケーションXは、後述の静止画像生成処理など、種々の処理を行うことが可能である。ユーザが、アプリケーションXを起動させると、まず、再生する動画ファイルの形式がシーケンシャルアクセス形式か、ランダムアクセス形式かを、選択することができるユーザインターフェイス画面(図示せず)が、CRT18aに表示される。フレーム画像管理部110は、ユーザが指定した動画像ファイル形式に基づいて、各モードへ移行する制御を行う。
シーケンシャルアクセス形式とは、複数のデータが、一定の順番で記録されたデータにアクセスする形式をいう。例えば、デジタルビデオテープに記録された動画像データにアクセスする場合などがこの形式に該当する。フレーム画像管理部110は、ユーザが指定した動画像ファイルの形式が、シーケンシャルアクセス形式であれば、シーケンシャルアクセスモードへ移行し、図3に示すシーケンシャルアクセスモードの処理を実行する。図3は、本実施例の一処理であるシーケンシャルアクセスモードについての処理の流れを示すフローチャートである。この時、フレーム画像管理部110は、デジタルビデオテープ(図示せず)を記録媒体に持つデジタルビデオカメラ30へ、アクセス可能な状態に制御する。シーケンシャルアクセスモードについての詳細は、後述する。
ランダムアクセス形式とは、データレコード位置を指定することで、任意のデータレコードにアクセスする形式をいう。例えば、DVD−ROM15aに記録された動画像データにアクセスする場合などがこの形式に該当する。フレーム画像管理部110は、ユーザが指定した動画像ファイルの形式が、ランダムアクセス形式であれば、ランダムアクセスモードへ移行し、図4に示すランダムアクセスモードの処理を実行する。図4は、本実施例の一処理であるランダムアクセスモードについての処理の流れを示すフローチャートである。この時、フレーム画像管理部110は、DVD−ROM15aが挿入されたDVDドライブ15へ、アクセス可能な状態に制御する。ランダムアクセスモードについての詳細は、後述する。
なお、本実施例におけるアプリケーションXは、シーケンシャルアクセスモード中であっても、シーケンシャルアクセスモードを中断し、ランダムアクセスモードへ移行することができる。また、ランダムアクセスモード中であっても、ランダムアクセスモードを中断し、シーケンシャルアクセスモードへ移行することができる。さらに、シーケンシャルアクセスモード若しくはランダムアクセスモード中であっても、適宜アプリケーションXを終了することができる。これらの場合、フレーム画像管理部110が、ユーザからの指示に基づき、各モードの中断、モード間の移行、およびアプリケーションXの終了の各制御を行う。
B1−1.シーケンシャルアクセスモード:
図3に示すシーケンシャルアクセスモードの処理を説明する前に、CRT18aに表示されるプレビュー画面200について説明する。図5は、本実施例において、CRT18aに表示されるプレビュー画面200を示す図である。図5に示すプレビュー画面200は、プレビューエリア210、サムネイル画像表示エリア220、ユーザ指示エリア230の3つのエリアに分別される。プレビューエリア210は、動画像を再生したり、動画像の中から一つのフレーム画像を指定して静止画像として表示する表示領域である。サムネイル画像表示エリア220は、後述するサムネイル画像221等を表示するエリアである。ユーザ指示エリア230には、再生ボタン231、停止ボタン232、一時停止ボタン233、巻き戻しボタン234、早送りボタン235、フレーム画像取り込みボタン236、静止画像生成ボタン237の7つのボタンがある。ユーザが、再生ボタン231、停止ボタン232、一時停止ボタン233、巻き戻しボタン234、早送りボタン235を押すと、それぞれ、プレビューエリア210に動画像を、再生させたり、停止させたり、一時停止させたり、巻き戻しさせたり、早送りさせたりすることができる。例えば、ユーザが、マウス18cまたはキーボード18bにより、マウスカーソル215を操作して、再生ボタン231を押すと、フレーム画像管理部110が、ビデオカメラ30から、動画像データを読み出し、それをプレビューエリア210に動画像として表示させることにより、プレビューエリア210に動画像が再生される。フレーム画像取り込みボタン236、静止画像生成ボタン237についての詳細は、後述する。
まず、図3に示すシーケンシャルアクセスモードの処理が実行されると、まず、フレーム画像管理部110は、プレビューエリア210に、動画像が再生されている状態であるかどうかを判断する(ステップS105)。動画像が再生されていれば(ステップS105:YES)、再生されているフレーム画像を順次バッファ140にバッファリングさせていく(ステップS110)。ここで、バッファリングとは、フレーム画像データを一時記憶することをいう。以下にバッファリングの様子を図6を用いて説明する。図6は、本実施例において、動画像データからフレーム画像データをバッファリングするためのバッファ140の説明図である。図6に示すように、バッファ140は、バッファ領域301〜304の4つのバッファ領域を備えており、各バッファ領域に1つのフレーム画像データがバッファリングされる。バッファ領域301には、フレーム画像管理部110により、プレビューエリア210に再生されているフレーム画像のフレーム画像データと同じフレーム画像データがバッファリングされるようになっている。この時、バッファリングが行われる前にバッファ領域301にバッファリングされていたフレーム画像データは、バッファ領域302にシフトしてバッファリングされる。同様に、バッファ領域302にバッファリングされていたフレーム画像データは、バッファ領域303へ、バッファ領域303にバッファリングされていたフレーム画像データは、バッファ領域304へシフトしてバッファリングされる。バッファ領域304にバッファリングされていたフレーム画像データは、破棄される。このようにして、バッファ領域301〜304には、時系列的にフレーム画像データがバッファリングされる。なお、このようなバッファリング方式をFIFO(または、トンネル・スタック)と言う。なお、バッファ領域301にバッファリングされるフレーム画像データは、上述のように、プレビューエリア210に再生されているフレーム画像のフレーム画像データと同じフレーム画像データであり、後述する生成静止画像データを生成する場合の合成処理で、複数のフレーム画像データを重ね合わせる時の基準となるフレーム画像データとなるので、以下、基準フレーム画像データとも呼ぶ。
動画像が再生されていなければ、(図3のステップS105:NO)、後述するステップS140の処理へ移行する。
次に、フレーム画像取得部111は、フレーム画像取り込み動作が実行されたかどうかを判断する(ステップS115)。ユーザにより、マウスカーソル215が操作され、フレーム画像取り込みボタン236が押されると、フレーム画像取得部111は、フレーム画像取り込み動作が行われたと判断し(ステップS115:YES)、バッファ140のバッファ領域301〜304にそれぞれバッファリングされている、4つのフレーム画像データをRAM13の作業領域に取り込んで一時的に保存する。また、フレーム画像取得部111は、フレーム画像取り込み動作が実行されていないと判断すると(ステップS115:NO)、ステップS140の処理へ移行する。
次に、フレーム画像管理部110は、RAM13の作業領域に一時的に保存された4つのフレーム画像データをHDD14の所定の領域にファイル名を付して記憶する(ステップS120)。また、フレーム画像管理部110は、RAM13の作業領域に一時的に保存された4つのフレーム画像データのうち、バッファ領域301にバッファリングされている基準フレーム画像データの絶対フレーム番号を、デジタルビデオカメラ30にアクセスして取得する(ステップS125)。例えば、デジタルビデオテープに記憶された動画像データが有する各フレーム画像データには、絶対フレーム番号を示すヘッダ情報が付加されており、上述のようにフレーム画像管理部110は、動画像データからフレーム画像データを、バッファ領域301にバッファリングするとともに、バッファリングされたフレーム画像データに該当する絶対フレーム番号をデジタルビデオカメラ30にアクセスして、同ヘッダ情報から取得するようにしてもよい。なお、絶対フレーム番号とは、本実施例におけるデジタルビデオカメラ30の記録媒体であるデジタルビデオテープ(図示せず)の最初のフレームから数えた通し番号のことを言う。
次に、フレーム画像管理部110は、RAM13の作業領域に一時的に保存された4つのフレーム画像データのうち、基準フレーム画像データを用いて、解像度が80×60のビットマップ形式のサムネイル画像データを作成し、例えば、図7がごとく、サムネイル画像表示エリア220内にサムネイル画像221を表示させる(ステップS130)。図7は、本実施例において、ユーザが、フレーム画像取り込みボタン236を押した場合に、サムネイル画像221が生成された状態を表した図である。
続いて、フレーム画像管理部110は、ステップS130の処理で作成したサムネイル画像データなど、取得した4つのフレーム画像データに対する種々の情報を管理するためのデータリスト(以下、データリストとも呼ぶ。)を作成する(図3のステップS135)。フレーム画像管理部110は、作成したデータリストをデータリスト保存領域115に保存する。
なお、この処理で作成されるデータリストについての詳細は、後述する。
データリストの作成が終了すると、フレーム画像管理部110は、静止画像処理動作が実行されたかどうかを判断する(ステップS140)。ユーザにより、マウスカーソル215が操作されて、サムネイル画像表示エリア220内の静止画像生成処理を行うサムネイル画像が指定され、静止画像生成ボタン237が押されると、フレーム画像管理部110は、静止画像生成処理動作が実行されたと判断し(ステップS140:YES)、静止画像生成部112に、静止画像生成処理(ステップS300)を実行させる。
なお、この静止画像生成処理については、後述する。
フレーム画像管理部110は、静止画像処理動作が実行されていないと判断すると(ステップS140、NO)、ステップS105の処理に戻り、上述した処理を繰り返し行う。
B2−2.ランダムアクセスモード:
一方、図4に示すランダムアクセスモードの処理が実行されると、まず、フレーム画像管理部110は、プレビューエリア210に表示されている動画像の元動画ファイル名を取得し、ファイル名を付してRAM13に保存する(ステップS200)。具体的には、フレーム画像管理部110は、DVDドライブ15へアクセスし、挿入されているDVD−ROM15aから元動画ファイル名を取得する。
次に、フレーム画像管理部110は、プレビューエリア210に、動画像が再生されている状態であるかどうかを判断する(ステップS203)。動画像が再生されていれば(ステップS203:YES)、続いてフレーム画像取得部111は、フレーム画像取り込み動作が実行されたかどうかを判断する(ステップS205)。具体的には、ユーザにより、マウスカーソル215が操作され、フレーム画像取り込みボタン236が押されると、フレーム画像取得部111は、フレーム画像取り込み動作が行われたと判断する(ステップS205:YES)。この時、フレーム画像取得部111は、プレビューエリア210に表示されているフレーム画像を表すフレーム画像データと同じフレーム画像データと、そのフレーム画像の直前にプレビューエリア210に表示されたと時系列な3つのフレーム画像とを、DVDドライブ15に挿入されているDVD−ROM15aから取得し、4つのフレーム画像データをRAM13の作業領域に一時的に保存する。なお、一時的に保存されたフレーム画像データのうち、プレビューエリア210に表示されているフレーム画像のフレーム画像データと同じフレーム画像データは、後述する静止画像生成処理における合成処理で、複数のフレーム画像データを重ね合わせる場合の基準となるフレーム画像データであるので、以下、基準フレーム画像データとも呼ぶ。動画像が再生されていなければ(ステップS203:NO)、後述するステップS230の処理へ移行する。
次に、フレーム画像管理部110は、RAM13の作業領域に一時的に保存された4つのフレーム画像データをHDD14の所定の領域にファイル名を付して保存する(ステップS210)。
次に、フレーム画像管理部110は、基準フレーム画像データの位置情報を、DVDドライブ15へアクセスして取得する(ステップS215)。例えば、DVD−ROM15aに記憶された動画像データが有する各フレーム画像データには、位置情報を示すヘッダ情報が付加されており、上述のようにフレーム画像管理部110は、動画像データからフレーム画像データを取得するとともに、取得したフレーム画像データに該当する位置情報をDVDドライブ15へアクセスして、同ヘッダ情報から取得する。なお、この位置情報は、DVD−ROM15aにおける絶対フレーム画像番号でも良いし、DVD−ROM15aの中の一つの動画像データにおけるフレーム画像の順番を表す番号でも良い。
位置情報の取得が終了すると、続いて、基準フレーム画像データを用いて、解像度が80×60のビットマップ形式のサムネイル画像データを作成し、例えば、図15がごとく、サムネイル画像表示エリア220内にサムネイル画像221を表示させる(ステップS220)。
サムネイル画像の作成が終了すると、フレーム画像管理部110は、ステップS220の処理で作成したサムネイル画像データなど、取得した4つのフレーム画像データに対する種々の情報を入力するデータリストを作成する(ステップS225)。フレーム画像管理部110は、作成したデータリストをデータリスト保存領域115に保存する。
なお、この処理で作成されるデータリストについての詳細は、後述する。
データリストの作成が終了すると、フレーム画像管理部110は、静止画像処理動作が実行されたかどうかを判断する(ステップS230)。ユーザにより、マウスカーソル215が操作され、サムネイル画像表示エリア220内の静止画像生成処理を行うサムネイル画像が指定され、静止画像生成ボタン237が押されると、フレーム画像管理部110は、静止画像生成処理動作が実行されたと判断し(ステップS230:YES)、静止画像生成部112に、静止画像生成処理(ステップS300)を実行させる。
静止画像生成処理(ステップS300)が終了すると、ステップS200の処理に戻り、以上の処理を繰り返し行う。なお、フレーム画像管理部110は、静止画像処理動作が実行されていないと判断すると(ステップS230:NO)、ステップS200の処理へ戻り、以上の処理を繰り返し行う。
なお、静止画像生成処理(ステップS300)については、後述する。
B1−3:データリストの作成
ここで、上述したシーケンシャルアクセスモード(図3)のステップS135の処理およびランダムアクセスモード(図4)のステップS225の処理におけるデータリストの作成について図8を用いて説明する。図8は、データリストの説明図であり、(a)は、データリストを表し、(b)は、元動画ファイル形式種別番号の内容の説明図であり、(c)は、処理種別番号の内容の説明図である。図8(a)において、データリストの左半分は、データリストの種別を表し、データリストの右半分は、その内容を表している。
「フレーム画像取得番号」としては、フレーム画像取り込み動作(シーケンシャルアクセスモード(図3)におけるステップS115:YES、および、ランダムアクセスモード(図4)におけるステップS205:YES)を行った回数を示す通し番号が入力される。図8では、例えば、最初のフレーム画像取得処理であるとして、「1」が入力されている。
「元動画ファイル形式種別番号」としては、図8(b)に示すように、上述のフレーム画像取り込み処理の対象となる元動画のファイル形式が、ランダムアクセス形式ならば、「1」を、シーケンシャルアクセス形式ならば、「2」を入力する。図8では、例えば、シーケンシャルアクセス形式であるので、「2」が入力されている。
「元動画ファイル名」としては、元動画ファイル形式がランダムアクセス形式の場合に限って、ランダムアクセスモード(図4)におけるステップS200の処理で取得した、元動画ファイルのファイル名が保存先のパスとともに入力される。図8では、例えば、シーケンシャルアクセス形式なので何も入力されず、「NULL」の状態である。
「元動画位置」としては、元動画ファイル形式がシーケンシャルアクセス形式の場合は、シーケンシャルアクセスモード(図3)におけるステップS125の処理で取得した基準フレーム画像の絶対フレーム番号が入力され、元動画ファイル形式がランダムアクセス形式の場合は、ランダムアクセスモード(図4)におけるステップS215の処理で取得した基準フレーム画像の位置情報が入力される。図8では、例えば「300」が入力されている。
「サムネイル画像」としては、元動画ファイル形式がシーケンシャルアクセス形式の場合は、シーケンシャルアクセスモード(図3)におけるステップS130の処理で作成されたサムネイル画像の実データが、元動画ファイル形式がランダムアクセス形式の場合には、ランダムアクセスモード(図4)におけるステップS220の処理で作成されたサムネイル画像の実データがそれぞれ入力される。
「静止画像1」〜「静止画像4」としては、HDD14の所定領域に保存された4つのフレーム画像データの保存先のパスおよびファイル名が入力される。ファイル名は、通し番号を表したものを付す。
具体的には、元動画ファイル形式がシーケンシャルアクセス形式の場合、シーケンシャルアクセスモード(図3)におけるステップS120の処理でHDD14に保存されたフレーム画像データのうち、静止画像1としては、ステップS110の処理でバッファ領域301にバッファリングされていたフレーム画像データ(つまり基準フレーム画像データ)の保存先のパスおよびファイル名が入力される。同様に、静止画像2としては、バッファ領域302に、静止画像3としては、バッファ領域303に、静止画像4としては、バッファ領域304に、それぞれバッファリングされていたフレーム画像データの保存先のパスおよびファイル名が入力される。
一方、元動画ファイル形式がランダムアクセス形式の場合には、静止画像1としては、ランダムアクセスモード(図4)におけるステップS210の処理でHDD14に保存されたプレビューエリア210に表示されているフレーム画像を表すフレーム画像データ(つまり基準フレーム画像データ)の保存先のパスおよびファイル名が入力される。静止画像2〜静止画像4としては、プレビューエリア210に基準フレーム画像データが表示された直前に、プレビューエリア210に表示された3つの時系列なフレーム画像データの保存先のパスおよびファイル名がそれぞれ入力される。
「処理種別番号」については、後述する静止画像生成処理(図9)におけるステップS350の処理で説明する。
また、「2フレーム合成の結果」、「4フレーム合成の結果」、「1フレーム合成の結果」については、後述する静止画像生成処理(図9)におけるステップS325の処理で説明する。
B1−4.静止画像生成処理:
図9は、本実施例における静止画像生成処理を示すフローチャートである。以下、図9を用いて、静止画像生成処理(ステップS300)について説明する。
ユーザにより、サムネイル画像表示エリア220内のサムネイル画像が指定され、静止画像生成ボタン237が押されると、フレーム画像管理部110は、静止画像生成処理動作を実行されたと判断し(図4のステップS230:YES)、図10(a)に示す静止画像生成処理別ウィンドウ201をポップアップさせて、プレビュー画面200に重ね合わせるように表示させる。
図10は、本実施例における静止画像生成処理において、その処理の種別の選択についての説明図である。(a)は、静止画像生成処理別ウィンドウ201を表し、(b)は、例としての、生成静止画像データの保存先のパスおよび付されたファイル名を入力した場合のデータリストの状態を表している。(c)は、静止画像生成処理別ウィンドウ201に生成静止画像を表示した状態を表している。(a)に示すように、静止画像生成処理別ウィンドウ201では、左側に、上記したプレビューエリア210が表示され、その右側に、静止画像生成処理を行った後の生成静止画像が表示される生成静止画像表示エリア250が表示され、その下側に、ユーザが指定する処理種別を選択できる処理種別プルダウンリスト260が表示され、さらにその右下側に、処理確定ボタン270が表示される。
ユーザは、処理種別プルダウンリスト260から、合成処理の種別を選択して、指定できるようになっている(図9のステップS305)。本実施例では、シーケンシャルアクセスモードにおいてステップS120(図3)で、若しくは、ランダムアクセスモードにおいてステップS210(図4)で、それぞれ、時系列な4つのフレーム画像データを取り込んだが、このうち、4つのフレーム画像データに基づいて合成処理を行い、高解像度な1つの静止画像データを生成する処理を「4フレーム合成」と呼び、2つのフレーム画像データ(基準フレーム画像データを含む)に基づいて合成処理を行い、高解像度な1つの静止画像データを生成する処理を「2フレーム合成」と呼び、1つのフレーム画像データ(基準フレーム画像)のみから補正処理を行い、1つの静止画像データを生成する処理を「1フレーム合成」と呼ぶ。
なお、「4フレーム合成」の処理については、後ほど詳しく説明する。
ユーザが上述の合成処理の中から処理の種別を指定すると、フレーム画像管理部110は、ユーザが指定したサムネイル画像が保存されているデータリストをデータリスト保存領域130から読み込み、そのデータリストに従って、ユーザが指定した処理種別に該当する処理が、既に行われているかどうかを判断する(ステップS310)。この場合、ユーザが指定した処理が、「2フレーム合成」ならば、データリストの「2フレーム合成の結果」に、「4フレーム合成」ならば、「4フレーム合成の結果」に、「1フレーム合成」ならば、「1フレーム合成の結果」に、パスおよびファイル名が、入力されているかどうかで判断する。具体的には、同パスおよびファイル名が入力されていれば、ユーザが指定した処理種別に該当する処理が、既に行われていると判断し(ステップS310:YES)、同パスおよびファイル名が入力されていなければユーザが指定した処理種別に該当する処理は、まだ行われていないと判断する(ステップS310:NO)。
ユーザが指定した処理種別に該当する処理が、行われていない場合には(ステップS310:NO)、フレーム画像管理部110は、指定された種別の処理を実行し(ステップS315)、生成された生成静止画像データを、ファイル名を付してHDD14の所定の領域に保存する(ステップS320)。そして、フレーム画像管理部110は、その保存先のパスおよび付されたファイル名を、ユーザが指定した処理に基づいて、データリストの「2フレーム合成の結果」若しくは「4フレーム合成の結果」若しくは「1フレーム合成の結果」のいずれか該当する場所に入力する(ステップS325)。例えば、ユーザが、「4フレーム合成」を指定すると、フレーム画像管理部110は、データリストの静止画像1〜静止画像4に入力されているパスおよびファイル名に従って該当するデータを読み出して、これらを用いて、上述した4フレーム合成を行う。そして、フレーム画像管理部110は、「4フレーム合成」の処理で生成された生成静止画像データを、ファイル名を付してHDD14の所定の領域に保存し、図10(b)のごとく、生成静止画像データの保存先のパスおよび付されたファイル名を、データリストの「4フレーム合成の結果」に入力する。
その後、フレーム画像管理部110は、図10(c)に示すように、生成静止画像表示エリア250にステップS315の処理において生成された生成静止画像を表示する(ステップS340)。
ユーザが指定した処理種別が既に行われている場合には(ステップS310:YES)、フレーム画像管理部110は、その指定された処理種別の生成静止画像データを、ユーザが指定したサムネイル画像が保存されているデータリストに基づいて、HDD14から読み込む(ステップS330)。例えば、ユーザが指定した処理種別が、「4フレーム合成」であって、既にその処理種別が行われている場合は、ユーザが指定したサムネイル画像が保存されているデータリストの「4フレーム合成の結果」にパスおよびファイル名が入力されているので、HDD14からそのパスのファイル名に該当するフレーム画像データを読み込む。フレーム画像管理部110は、読み込んだ生成静止画像を、生成静止画像表示エリア250に表示する(ステップS340)。
続いて、フレーム画像管理部110は、ユーザにより処理が確定されたかどうかを判断する(ステップS345)。具体的には、フレーム画像管理部110は、処理確定ボタン270が押されると、処理が確定したと判断し(ステップS345、YES)、ユーザにより指定された処理種別(ステップS305)に基づいて、データリストの処理種別番号(図8(c))に、該当する番号を入力する(ステップS350)。処理種別番号としては、例えば、ユーザにより指定された処理種別が「2フレーム合成」の場合は、「2」を、「4フレーム合成」の場合には、「4」を、「1フレーム合成」の場合には、「1」を入力する。また、「処理なし」の場合には、「0」を入力する。
処理が確定されると、静止画像生成処理別ウィンドウ201は閉じられ、プレビュー画面200が表示される。この時、フレーム画像管理部110は、静止画像生成処理(ステップS300)を行ったサムネイル画像221に、ステップS350の処理で入力された処理種別番号を表示する。例えば、ステップS305の処理で、ユーザにより指定された処理種別が「4フレーム合成」であった場合には、図11に示すように、サムネイル画像221に、「4フレーム合成」を示す処理種別番号である「4」を表示する。また、ユーザにより指定された処理種別が「2フレーム合成」であった場合には、サムネイル画像221に、「2フレーム合成」を示す処理種別番号である「2」を表示し、ユーザにより指定された処理種別が「1フレーム合成」であった場合には、サムネイル画像221に、「1フレーム合成」を示す処理種別番号である「1」を表示する。このようにすれば、ユーザは、サムネイル画像を見ただけで、最後に行った処理の種別を知ることができる。フレーム画像管理部110は、所定の時間経過しても処理確定ボタン270が押されない場合は(ステップS345:NO)、静止画像生成処理別ウィンドウ201を閉じ、静止画像生成処理(ステップS300)を終了する。
C.静止画像データ生成の手順:
以下に、上述した静止画像生成処理(ステップS300)における「4フレーム合成」処理によって、比較的高解像度な1つの静止画像データを生成する手順について説明する。
C1.フレーム画像データの取り込み:
フレーム画像管理部110は、上述の静止画像生成処理(図9)におけるステップS315で、「4フレーム合成」を行う場合には、4つのフレーム画像データとして、データリストの静止画像1〜4に入力されたパスおよびファイル名に該当するフレーム画像データをHDD14から適宜RAM13に取り込むことにより、4フレーム合成を行う。
なお、フレーム画像データは、ドットマトリクス状の各画素の階調データ(以下、「画素データ」とも呼ぶ。)で構成されている。画素データは、Y(輝度)、Cb(ブルーの色差)、Cr(レッドの色差)からなるYCbCrデータや、R(レッド)、G(グリーン)、B(ブルー)からなるRGBデータ等である。
次に、4フレーム合成が開始されると、まず、フレーム画像管理部110の制御に基づいて静止画像生成部112は、上述の4つのフレーム画像間において発生している「ずれ」を補正するための補正量の推定を実行する。なお、ここでいう「ずれ」とは、撮影対象物自体の動きなどに起因するものではなく、いわゆるパンと呼ばれるカメラワークや、「手ぶれ」のように、ビデオカメラの向きの変化のみに起因するものであるとする。本実施例では、フレーム画像間において、全ての画素が同じ量だけずれるようなずれを想定している。この補正量の推定では、上述の4つのフレーム画像のうち、1つが基準フレーム画像として選択され、その他の3つが対象フレーム画像として選択される。そして、各対象フレーム画像について、基準フレーム画像に対するずれを補正するための補正量が、それぞれ推定される。なお、本実施例では、上述したように読み出された4つのフレーム画像データのうち、データリストの静止画像1に入力されたパスおよびファイル名に該当するフレーム画像データが表す画像が基準フレーム画像となる。また、上述したように読み出された4つのフレーム画像データのうち、データリストの静止画像2〜4に入力されたパスおよびファイル名に該当するフレーム画像データが表す画像が対象フレーム画像となる。
そして、静止画像生成部112は、読み出した4フレーム画像データを、求められた補正量の補正を施して合成し、複数のフレーム画像データから静止画像データを生成する。以下、補正量推定処理および合成処理について、図12および図13を用いて説明する。
C2.補正量推定処理:
図12は、基準フレームのフレーム画像と対象フレームのフレーム画像との間のずれについて示す説明図である。また、図13は、対象フレーム画像と基準フレーム画像との間のずれの補正について示す説明図である。
なお、以下の説明では、読み出した4つのフレーム画像にF0、F1、F2、F3を付し、それぞれフレーム画像F0、フレーム画像F1、フレーム画像F2、フレーム画像F3と呼ぶ。このとき、フレーム画像F0を基準フレーム画像とも呼び、フレーム画像F1〜F3を対象フレーム画像とも呼ぶこととする。
図12および図13では、対象フレーム画像F1〜F3のうち、対象フレーム画像F3を代表例として、この対象フレーム画像における基準フレーム画像F0に対するずれ、およびこのずれの補正について説明する。
画像のずれは、並進(横方向または縦方向)のずれと、回転のずれとの組み合わせで表される。図12では、基準フレーム画像F0に対する、対象フレーム画像F3のずれ量を分かり易く示すため、基準フレーム画像F0の縁と、対象フレーム画像F3の縁とを重ねて示すとともに、基準フレーム画像F0上の中心位置に仮想の十字画像X0を追記し、この十字画像X0が、対象フレーム画像F3と同様にずれたとして、対象フレーム画像F3上に、ずれた結果の画像である十字画像X3を示すようにしている。更に、このずれ量を、より分かり易く示すために、基準フレーム画像F0、および十字画像X0を太い実線で示すとともに、対象フレーム画像F3、および十字画像X3を細い破線で示すようにしている。
本実施例では、並進ずれ量として横方向を「um」、縦方向を「vm」と表記し、回転ずれ量を「δm」と表記し、対象フレーム画像Fa(aは、1〜3の整数)についてのずれ量を「uma」、「vma」、「δma」と表記することとする。例えば、図12に示すように、対象フレーム画像F3は、基準フレーム画像F0に対して、並進ずれ、および回転ずれが生じており、そのずれ量は、um3、vm3、δm3と表される。
ここで、対象フレーム画像F1〜F3を基準フレーム画像F0と合成するためには、対象フレーム画像F1〜F3が基準フレーム画像F0とのずれをなくすように、対象フレーム画像F1からF3の各画素の位置を補正することとなる。このために用いられる並進補正量として横方向を「u」、縦方向を「v」、回転補正量を「δ」と表記する。そして、対象フレーム画像Fa(aは、1〜3の整数)についての補正量を「ua」、「va」、「δa」と表記することとすると、これらの補正量u、v、δは、上述のずれ量um、vm、δmに対して、u=−um、v=−vm、δ=−δmの関係で表される。また、フレームaの対象フレーム画像Faについての補正量ua、va、δaは、ua=−uma、va=−vma、δa=−δmaの関係で表される。例えば、対象フレーム画像F3についての補正量u3、v3、δ3は、u3=−um3、v3=−vm3、δ3=−δm3で表される。
図13に示すように、補正量u3、v3、δ3を用いて、対象フレーム画像F3を補正することにより、対象フレーム画像F3と基準フレーム画像F0とのずれをなくすことができる。ここで、補正とは、フレーム画像F3の各画素の位置を、横方向にu3の移動、縦方向にv3の移動、およびδ3の回転を施した位置に移動させることを意味する。このとき、補正後の対象フレーム画像F3と、基準フレーム画像F0と、をCRT18aで表示させると、図13に示すように、対象フレーム画像F3は、基準フレーム画像F0に対して部分一致すると推定される。なお、この補正の結果を分かり易く示すため、図13においても、図12と同じ仮想の十字画像X0、および十字画像X3を表記しており、図13に示すように、補正の結果、十字画像X3は、十字画像X0と一致することとなる。
なお、上述の「部分一致する」とは、以下のことを意味するものである。すなわち、図13に示すように、例えば、ハッチングを施した領域P1は、対象フレーム画像F3にのみ存在する領域の画像であり、基準フレーム画像F0には、該当する領域の画像は存在しない。このように、上述の補正を行ったとしても、ずれに起因して、基準フレーム画像F0にのみ、または、対象フレーム画像F3にのみ存在する領域の画像が生じてしまうため、対象フレーム画像F3は、基準フレーム画像F0に対して完全一致することはなく、部分一致することとなる。
同様に、対象フレーム画像F1,F2についても、補正量u1、v1、δ1、およびu2、v2、δ2、の各値を用いて補正を施すことにより、対象フレーム画像F1、F2の各画素の位置を置き換えることができる。
なお、各対象フレーム画像Fa(aは、1〜3の整数)についての補正量ua、va、δaは、フレーム画像管理部110において、基準フレーム画像F0の画像データと対象フレーム画像F1〜F3の画像データに基づき、パターンマッチ法や勾配法等による所定の算出式を用いて、推定量として算出され、並進補正量データと回転補正量データとしてRAM13内の所定の領域に記憶される。
C3.合成処理:
補正量推定が終了すると続いて、静止画像生成部112において合成処理が実行される。静止画像生成部112は、まず、補正量推定処理で算出された補正量の各パラメータをもとに対象フレーム画像データの補正を行う(図13)。次に、静止画像生成部112は、最近傍画素決定を実行する。
図14は、本実施例における、最近傍画素決定を示す説明図である。対象フレーム画像の補正の結果、基準フレーム画像F0、および対象フレーム画像F1〜F3は、部分一致することとなるが、図14では、この部分一致した画像の一部を拡大し、各フレーム画像の画素の位置関係を示している。図14では、生成予定の高画質化された高解像度画像(生成静止画像)Gの各画素が黒丸で示されているとともに、基準フレーム画像F0の各画素が白抜きの四辺形で示され、補正後の対象フレーム画像F1〜F3の各画素が、ハッチングを施した四辺形で示されている。なお、本実施例では、生成静止画像Gは、元となる基準フレーム画像F0に対して、1.5倍密の画素密度に高解像度化されるものとする。図14に示すように、生成静止画像Gの各画素間の距離は、基準フレーム画像F0の各画素間の距離の2/3となっている。また、生成静止画像Gの各画素は、2画素おきに基準フレーム画像F0の各画素に重なるような位置にあるものとする。ただし、生成静止画像Gの画素は、必ずしも基準フレーム画像F0の各画素に重なるように位置している必要はない。例えば、生成静止画像Gの各画素のすべてが、基準フレーム画像F0の各画素の中間に位置するものでもよく、種々の位置とすることが可能である。さらに、高解像度化の倍率も、縦横1.5倍密に限定されるものでもなく、種々の倍率とすることもできる。
今、生成静止画像G内のj番目の画素G(j)に注目して、まず、この画素(以下、「注目画素」と呼ぶ。)G(j)と、この注目画素G(j)に最も近い基準フレーム画像F0の画素と、の距離L0を算出する。ここで、生成静止画像Gの画素間距離は、上述のように、元となる基準フレーム画像F0の画素間距離に対して、2/3となっているので、注目画素G(j)の位置は、基準フレーム画像F0の位置から算出することができる。従って、基準フレーム画像F0の位置と注目画素G(j)の位置から、距離L0を算出することができる。
引き続き、注目画素G(j)と、この注目画素G(j)に最も近い補正後の対象フレーム画像F1の画素と、の距離L1を算出する。上述のように、注目画素G(j)の位置は、基準フレーム画像F0の位置から算出でき、また、補正後の対象フレーム画像F1の画素の位置は、上述の補正量推定処理において算出されているので、距離L1を算出することができる。以下、同様にして、注目画素G(j)と、この注目画素G(j)に最も近い補正後の対象フレーム画像F2の画素と、の距離L2、および、注目画素G(j)と、この注目画素G(j)に最も近い補正後の対象フレーム画像F3の画素と、の距離L3を算出する。
次に、距離L0〜L3が互いに比較され、注目画素G(j)に最も近い距離にある画素(以下、「最近傍画素」と呼ぶ。)が決定される。本実施例では、図14に示すように、距離L3にある画素が、注目画素G(j)に最も近い画素となっているので、補正後の対象フレーム画像F3の画素が、注目画素G(j)の最近傍画素として決定されることとなる。なお、この画素G(j)に対する最近傍画素が、補正後の対象フレーム画像F3のi番目の画素であったとして、以下、最近傍画素F(3,i)と表記する。
そして、以上の手順が、j=1、2、3...と、生成静止画像G内の全ての画素について実行され、それぞれの画素について、最近傍画素が決定されることとなる。
次に、静止画像生成部112は、最近傍画素決定に続き、画素補間を実行する。図15は、本実施例における、バイ・リニア法を用いた画素補間を説明する説明図である。上述の注目画素G(j)は画素補間前には、階調データが存在しないので、その階調データを、他の画素の階調データから補間する処理を行う。
この補間処理において用いられる階調データを、最近傍画素F(3,i)とともに、注目画素G(j)を囲むように位置する、補正後の対象フレーム画像F3上の3つの画素を特定し、これら画素の階調データと、最近傍画素F(3,i)の階調データと、を用いるものとする。本実施例では、図14に示すように、注目画素G(j)の最近傍画素F(3,i)の他、注目画素G(j)を囲む、画素F(3,j)、画素(3,k)、画素(3,l)の階調データを用いて、バイ・リニア法により、注目画素G(j)の階調データを求めるものとする。
なお、補間方法については、バイ・リニア法の他、バイ・キュービック法、およびニアレストネイバ法等、様々な方法を用いることができるが、少なくとも、より注目画素G(j)に近い画素の階調データを、より反映するような補間処理方法を用いるものとする。更に、その補間処理方法において用いる階調データについては、上述のように最近傍画素とともに、注目画素G(j)を囲むように位置する画素の階調データを用いるものとする。このようにすることで、注目画素に最も近い最近傍画素の階調データを最も反映し、かつ、この最近傍画素に近い画素の階調データを使用して補間を行うこととなり、実物の色彩に近い値に階調データを定めることができる。
以上のようにして、静止画像生成部112は、静止画像生成処理(図9、ステップS300)における「4フレーム合成」処理を行い、上述のように読み出した4つのフレーム画像データから、1つの静止画像データを生成する。
なお、上述した静止画像生成処理(図9、ステップS300)において、「2フレーム合成」処理によって、静止画像データを生成する場合には、フレーム画像管理部110は、データリストの静止画像1および2に入力されたパスおよびファイル名に該当する、2つのフレーム画像データ(基準フレーム画像データを含む)をHDD14から適宜RAM13に読み出し、上述のように補正量推定処理、合成処理を行い、高解像度な1つの静止画像データを生成する。
また、上述した静止画像生成処理(図9、ステップS300)において、「1フレーム合成」処理によって、静止画像データを生成する場合には、フレーム画像管理部110は、データリストの静止画像1に入力されたパスおよびファイル名に該当する基準フレーム画像データをHDD14から適宜RAM13に読み出し、バイ・リニア法、バイ・キュービック法、もしくは、ニアレストネイバ法等の画素補間方法を用いて、高解像度な1つの静止画像データを生成する。
D.効果:
以上のように、本実施例では、デジタルビデオカメラ30もしくは、DVD−ROMドライブ15が出力する動画像データから4つのフレーム画像データを取得して、HDD14に保存している。このため、合成処理を複数のフレーム画像データを用いて行う場合に、その複数のフレーム画像データを、改めて、デジタルビデオカメラ30もしくは、DVD−ROMドライブ15が出力する動画像データから取得する必要がなく、その保存した複数のフレーム画像データを用いて、静止画像データを生成することができるため、その分、合成処理を行う処理時間を短縮することができる。
また、デジタルビデオカメラ30からシーケンシャルアクセス形式で出力される動画像データから、時系列な4つの動画像データを取り込むためには、フレーム画像取得部111は、動画像データを再生して1つのフレーム画像データを取り込む、という作業を4回繰り返すことが考えられる。しかし、本実施例では、シーケンシャルアクセスモード(図3)において、バッファ140のバッファ領域301〜304に、プレビューエリア210に再生されている動画像データから時系列的にフレーム画像データをバッファリングし、ユーザによりフレーム画像取り込みボタン236が押された際には、そのバッファリングしたフレーム画像データを取り込むようにしている。このため、フレーム画像取得部111は、動画像データを再生して1つのフレーム画像データを取り込む、という作業を4回繰り返すことなく、時系列な4つのフレーム画像を取り込むことができるので、静止画像データ生成のための処理時間を短縮することができる。
本実施例では、フレーム画像管理部110は、上述のように、ユーザが指定した種別の処理(図9、ステップS315)で静止画像データが生成されると、その静止画像データをHDD14にファイル名を付けて保存するとともに、データリストにファイル名を入力する。そして、再度同じフレーム画像を用いて同じ種別の処理を行う場合には、データリストに従って、HDD14に保存されている静止画像データを読み出して、生成静止画像表示エリア250に表示する。このようにすれば、フレーム画像管理部110は、再度同じ種別の処理を行う必要がないので、処理時間を短縮することができる。
フレーム画像管理部110は、上述のようにサムネイル画像に、処理種別番号を表示するようにしている。このようにすれば、ユーザは、サムネイル画像を見ただけで、最後に行った合成処理の種別を知ることができる。また、本発明はこれに限られず、最後に行った合成処理の処理種別を表すものとして、所定の記号をサムネイル画像に表示するようにしてもよい。例えば、最後に行った合成処理が、「1フレーム合成」ならば丸印を、「2フレーム合成」ならば三角印を、「4フレーム合成」ならば四角印を、サムネイル画像に表示するようにしてもよい。さらに、本発明は、これに限られず、サムネイル画像に所定の情報を表示するようにしてもよい。また、所定の情報の表示方法として、吹き出しを用いてもよい。例えば、図16に示すがごとく、サムネイル画像表示エリア220内に作成されているサムネイル画像221にマウスカーソル215を重ねると、所定の情報を表示する吹き出しを表示することも可能である。ここでは、所定の情報として、元動画位置、処理種別の内容等を吹き出し229に表示させている。このようにすれば、サムネイル画像にマウスカーソル215を重ねるだけで、ユーザは、元動画位置、過去に行った処理種別の内容などの所定の情報を、知ることができる。
また、フレーム画像管理部110は、シーケンシャルアクセスモード(図3)におけるステップS125の処理で、取得した基準フレーム画像の絶対フレーム番号を保存しているので、以下の頭出し処理を行うことができる。
図17は、本実施例における絶対フレーム番号を用いた頭出し処理の説明図である。今、図17(a)に示すように、プレビュー画面200のサムネイル画像表示エリア220内には、サムネイル画像221とサムネイル画像222が表示されており、プレビューエリア210には、サムネイル画像221およびサムネイル画像222の表す画像とは異なるフレーム画像が表示されているものとする。
そこで、ユーザが、頭出しを行いたいサムネイル画像を指定すると、そのサムネイル画像が保存されているデータリストを読み出し、そのデータリストの「元動画位置」に入力されている絶対フレーム番号を取得する。さらに、フレーム画像管理部110は、デジタルビデオカメラ30にアクセスし、取得した絶対フレーム番号に基づく位置にあるフレーム画像のところまで、デジタルビデオテープ(図示せず)を巻き戻し、若しくは早送りする。その結果、図17(b)に示すように、上記の絶対フレーム番号に基づく位置にあるフレーム画像をプレビューエリア210に表示することができる。さらには、その位置から動画像を再生、早送り、巻き戻し等をすることできるので、その位置の周辺にあるフレーム画像データを再び、取得することができる。
フレーム画像管理部110は、ランダムアクセスモード(図4)におけるステップS215の処理で、取得した基準フレーム画像の位置情報を保存しているので、頭出し処理を行うことができる。具体的には、フレーム画像管理部110は、ユーザが、頭出しを行いたいサムネイル画像を指定すると、そのサムネイル画像が保存されてあるデータリストをデータリスト保存領域130から読み出す。そして、フレーム画像管理部110は、そのデータリストの「元動画位置」に入力されている位置情報を取得する。さらに、フレーム画像管理部110は、DVD−ROMドライブ15にアクセスし、取得した位置情報に基づく位置にあるフレーム画像を取得する。その結果、位置情報に基づく位置にあるフレーム画像をプレビューエリア210に表示することができる。さらには、その位置から動画像を再生、早送り、巻き戻し等をすることができるので、その位置の周辺にあるフレーム画像データを再び、取得することができる。
フレーム画像管理部110は、上述のシーケンシャルアクセスモード(図3)におけるステップS125の処理で取得する基準フレーム画像の絶対フレーム番号または、上述のランダムアクセスモード(図4)におけるステップS215の処理で取得する基準フレーム画像の位置情報を保存しているので、サムネイル画像表示エリア220内に複数のサムネイル画像が表示されている場合に、それらの複数のサムネイル画像を、上記の絶対フレーム番号や位置情報に基づいて、時系列にソーティングすることができる。
通常、サムネイル画像表示エリア220内には、各サムネイル画像は、そのサムネイル画像が作成された順序で表示されており、各サムネイルに対応する画像が動画像データ内において、それぞれ、時間的にどのような位置関係にあるかを、ユーザはすぐには把握することができない。そこで、ユーザが、サムネイル画像についてソーティング実行指示を出すと、フレーム画像管理部110は、サムネイル画像表示エリア220内にあるサムネイル画像について、それらのサムネイル画像が保存されているデータリストを、データリスト保存領域130から読み出し、それらのデータリストの「元動画位置」に入力されている数値に基づいて、ソーティングを行う。このようにすれば、ユーザは、サムネイル画像表示エリア220内のサムネイル画像を、時系列に従った順序で表示することができる。
(2).変形例:
なお、本発明では、上記した実施の形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様にて実施することが可能である。
上記実施例では、バッファ140におけるバッファリング方式は、FIFO方式を採用しているが、本発明は、これに限られるものではない。例えば、バッファ140は、リングバッファとなっていてもよい。この場合には、バッファ140において、プレビューエリア210に再生されているフレーム画像を、時系列的に一番古いフレーム画像がバッファリングされたバッファ領域(図示せず)に順次上書きしてバッファリングするようにしてもよい。また、上記実施例におけるバッファ部140は、RAM13の所定の領域に設けられていてもよい。
上記実施例では、デジタルビデオカメラ30または、DVD−ROMドライブ15から、動画像データを読み出し、その動画像データが有する複数のフレーム画像データを取得して、バッファ部140、RAM13またはHDD14などに保存しているが、本発明はこれに限られることはない。PC10に接続されたMO、CD−R/RW、DVD、および磁気テープ等の記録媒体から、動画像データを読み出し、その動画像データが有する複数のフレーム画像データを取得して、バッファ部140、RAM13またはHDD14などに保存してもよい。また、動画像データがHDD14に記憶されていて、その動画像データを読み出し、その動画像データが有する複数のフレーム画像データを取得して、バッファ部140、RAM13またはHDD14などに保存してもよい。
上記実施例の静止画像生成システムにおいて、取得するフレーム画像は、取得指示の入力タイミングから時系列的に連続する2フレーム若しくは4フレームのフレーム画像データを取得するものとしているが、本発明は、これに限られるものではない。取得するフレーム画像は、3フレーム若しくは、5フレーム以上のフレーム画像データを取得してもよい。この場合には、取得したフレーム画像データの一部または、全部を用いて比較的高解像度な静止画像データを生成する処理を行ってもよい。
上記実施例では、動画像データの中から、時系列に連続した複数のフレーム画像データを取得して、それらを合成することにより、1つの高解像度な静止画像データを生成する場合を説明しているが、本発明はこれに限られるものではない。動画像データの中から、時系列に並んだ複数のフレーム画像データを取得して、それらを合成することにより、1つの高解像度な静止画像データを生成してもよい。また、単に、時系列に連続する複数の画像データの中から、時系列に並んだ複数の画像データを取得し、それらを合成することにより、1つの高解像度の画像データを生成してもよい。なお、時系列に連続する複数の画像データとしては、例えば、デジタルカメラで連写された複数の画像データなどが考えられる。
上記実施例では、静止画像生成装置として、パーソナルコンピュータ(PC)を採用しているが、本発明はこれに限られるものではない。上述の静止画像生成装置がビデオカメラ、デジタルカメラ、プリンタ、DVDプレーヤ、ビデオテーププレーヤ、ハードディスクプレーヤ、カメラ付き携帯電話などに内蔵されてもよい。特に、ビデオカメラを本発明の静止画像生成装置した場合には、動画像を撮影しながら、撮影した動画像の動画像データに含まれる複数のフレーム画像データから1つの高解像度な静止画像データを生成することが可能となる。また、デジタルカメラを本発明の静止画像生成装置とした場合にも、被写体を連写しながら、あるいは、連写した結果を確認しながら、複数の撮像画像データから1つの高解像度な静止画像データを生成することができる。
上記実施例では、比較的低解像度の画像データとして、フレーム画像データを例に用いて説明したが、本発明は、これに限られるものではない。例えば、フレーム画像データの代わりにフィールド画像データを用いて、上述した処理を行ってもよい。なお、フィールド画像データが表すフィールド画像は、インターレース方式において、ノンインターレース方式のフレーム画像に相当する画像を構成する奇数フィールドの静止画像と偶数フィールドの静止画像を意味している。
本発明の一実施例である静止画像生成システム100の概略構成を示している。 本実施例の静止画像生成システムにおけるCPU11およびRAM13の機能を示すブロック図である。 本実施例の一処理であるシーケンシャルアクセスモードについての処理の流れを示すフローチャートである。 本実施例の一処理であるランダムアクセスモードについての処理の流れを示すフローチャートである。 本実施例においてCRT18aに表示されるプレビュー画面200を示す図である。 本実施例におけるバッファ140の説明図である。 本実施例においてユーザがフレーム画像取り込みボタン236を押した場合にサムネイル画像221が生成された状態を表した図である。 本実施例におけるデータリストの説明図である。 本実施例における静止画像生成処理を示すフローチャートである。 本実施例における静止画像生成処理においてその処理の種別の選択についての説明図である。 サムネイル画像に処理種別番号が入力された状態を表した図である。 基準フレームのフレーム画像と対象フレームのフレーム画像との間のずれについて示す説明図である。 対象フレーム画像と基準フレーム画像との間のずれの補正について示す説明図である。 本実施例における最近傍画素決定を示す説明図である。 本実施例におけるバイ・リニア法を用いた画素補間を説明する説明図である。 サムネイル画像に吹き出しが表示された状態を表した図である。 本実施例における絶対フレーム番号を用いた頭出し処理の説明図である。
符号の説明
10...パーソナルコンピュータ
10a...システムバス
18a...ディスプレイ
18b...キーボード
18c...マウス
20...プリンタ
30...ビデオカメラ
30...デジタルビデオカメラ
40...フレーム画像取得部
50...画像処理部
100...静止画像生成システム
110...フレーム画像管理部
220...サムネイル画像表示エリア
230...ユーザ指示エリア
221...サムネイル画像
231...再生ボタン
232...停止ボタン
233...一時停止ボタン
235...ボタン
236...フレーム画像取得ボタン
237...静止画像生成ボタン
234...ボタン
215...マウスカーソル
110...フレーム画像管理部
301〜304...バッファ領域
111...フレーム画像取得部
112...静止画像生成部
130...データリスト保存領域
140...バッファ
250...生成静止画像表示エリア
260...処理種別プルダウンリスト
270...処理確定ボタン
222...サムネイル画像
200...プレビュー画面
210...プレビューエリア
APL...アプリケーションプログラム
17a〜e...各種インターフェイス
F0...基準フレーム画像
F1...対象フレーム画像
F2...対象フレーム画像
F3...対象フレーム画像
G(j)...注目画素
X0...十字画像
X3...十字画像

Claims (13)

  1. 複数の画像データから静止画像データを生成するための静止画像生成装置であって、
    前記複数の画像データから、時系列に並んだ複数の第1の画像データを取得する画像取得部と、
    前記画像取得部で取得した前記複数の第1の画像データを保存する画像保存部と、
    前記画像保存部に保存されている前記複数の第1の画像データから、各画像データの表す画像間の位置ずれを補正するための補正量を推定する補正量推定部と、
    推定した前記補正量に基づいて、前記複数の第1の画像データにおける前記画像間の位置ずれを補正するとともに、補正した前記複数の第1の画像データを合成して、前記第1の画像データに比べて高解像度な第2の画像データを前記静止画像データとして生成する画像合成部と、
    を備えたことを特徴とする静止画像生成装置。
  2. 前記複数の画像データは、動画像データを構成する複数の画像データであることを特徴とする請求項1に記載の静止画像生成装置。
  3. 画像データ取り込みを指示された際に、前記画像取得部は、前記複数の画像データから前記複数の第1の画像データを取得し、前記画像保存部は、取得した前記複数の第1の画像データを保存することを特徴とする請求項1または請求項2に記載の静止画像生成装置。
  4. 前記画像取得部は、前記複数の画像データから前記第1の画像データを順次取得すると共に、前記画像保存部は、保存している前記複数の第1の画像データを、取得した前記第1の画像データで順次更新し、
    画像データ取り込みを指示された際に、前記画像保存部は、保存している前記複数の第1の画像データを保持することを特徴とする請求項1または請求項2に記載の静止画像生成装置。
  5. 前記画像保存部は、前記複数の第1の画像データの他に、前記画像合成部で生成された前記第2の画像データも保存することを特徴とする請求項1ないし請求項4のいずれかに記載の静止画像生成装置。
  6. 前記画像合成部が、補正した前記複数の第1の画像データを合成して前記第2の画像データを生成する際に、複数種類の合成方法を選択的にとりうる場合に、
    前記画像保存部は、異なる種類の合成方法で合成された前記第2の画像データを、合成方法の種類ごとに、それぞれ保存することを特徴とする請求項5に記載の静止画像生成装置。
  7. 補正した前記複数の第1の画像データについて、一度合成したことのある合成方法と同じ種類の合成方法で再度合成することを指示された場合に、前記画像合成部は、補正した前記複数の第1の画像データの合成を行うことなく、前記画像保存部から、前記同じ種類の合成方法ですでに合成されている前記第2の画像データを読み出すことを特徴とする請求項6に記載の静止画像生成装置。
  8. 前記画像保存部は、前記複数の第1の画像データの他に、取得した前記複数の第1の画像データのうちの少なくとも1つの画像データの、前記複数の画像データにおける時間的な位置を表す位置情報を保存することを特徴とする請求項1ないし請求項7のいずれかに記載の静止画像生成装置。
  9. 前記画像合成部から生成される前記第2の画像データからサムネイル画像データを作成するサムネイル画像作成部と、
    少なくとも前記サムネイル画像データの表すサムネイル画像を表示する画像表示部と、を備え、
    前記画像表示部は、前記サムネイル画像を、前記サムネイル画像に対応する前記第2の画像データに関連する所定の情報とともに表示することを特徴とする請求項1ないし請求項8のいずれかに記載の静止画像生成装置。
  10. 前記画像合成部が、補正した前記複数の第1の画像データを合成して前記第2の画像データを生成する際に、複数種類の合成方法を選択的にとりうる場合に、
    前記所定の情報は、前記サムネイル画像に対応する前記第2の画像データを生成する際に用いた合成方法を表す情報であることを特徴とする請求項9に記載の静止画像生成装置。
  11. 複数の画像データから静止画像データを生成するための静止画像生成方法であって、
    前記複数の画像データから、時系列に並んだ複数の第1の画像データを取得する画像取得工程と、
    前記画像取得工程で取得した前記複数の第1の画像データを保存する画像保存工程と、
    前記画像保存工程に保存されている前記複数の第1の画像データから、各画像データの表す画像間の位置ずれを補正するための補正量を推定する補正量推定工程と、
    推定した前記補正量に基づいて、前記複数の第1の画像データにおける前記画像間の位置ずれを補正するとともに、補正した前記複数の第1の画像データを合成して、前記第1の画像データに比べて高解像度な第2の画像データを前記静止画像データとして生成する画像合成工程と、
    を備えたことを特徴とする静止画像生成方法。
  12. 複数の画像データから静止画像データを生成するための静止画像生成プログラムであって、
    前記複数の画像データから、時系列に並んだ複数の第1の画像データを取得する画像取得機能と、
    前記画像取得機能で取得した前記複数の第1の画像データを保存する画像保存機能と、
    前記画像保存機能に保存されている前記複数の第1の画像データから、各画像データの表す画像間の位置ずれを補正するための補正量を推定する補正量推定機能と、
    推定した前記補正量に基づいて、前記複数の第1の画像データにおける前記画像間の位置ずれを補正するとともに、補正した前記複数の第1の画像データを合成して、前記第1の画像データに比べて高解像度な第2の画像データを前記静止画像データとして生成する画像合成機能と、
    をコンピュータ上で実現することを特徴とする静止画像生成プログラム。
  13. 請求項12に記載の静止画像生成プログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2003339894A 2003-01-07 2003-09-30 静止画像生成装置、静止画像生成方法、静止画像生成プログラム、および静止画像生成プログラムを記録した記録媒体 Expired - Fee Related JP4701598B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2003339894A JP4701598B2 (ja) 2003-01-07 2003-09-30 静止画像生成装置、静止画像生成方法、静止画像生成プログラム、および静止画像生成プログラムを記録した記録媒体
US10/751,202 US20040196376A1 (en) 2003-01-07 2004-01-02 Still image generating apparatus and still image generating method

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2003001124 2003-01-07
JP2003001124 2003-01-07
JP2003339894A JP4701598B2 (ja) 2003-01-07 2003-09-30 静止画像生成装置、静止画像生成方法、静止画像生成プログラム、および静止画像生成プログラムを記録した記録媒体

Publications (2)

Publication Number Publication Date
JP2004234624A true JP2004234624A (ja) 2004-08-19
JP4701598B2 JP4701598B2 (ja) 2011-06-15

Family

ID=32964585

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003339894A Expired - Fee Related JP4701598B2 (ja) 2003-01-07 2003-09-30 静止画像生成装置、静止画像生成方法、静止画像生成プログラム、および静止画像生成プログラムを記録した記録媒体

Country Status (2)

Country Link
US (1) US20040196376A1 (ja)
JP (1) JP4701598B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005046221A1 (ja) * 2003-11-11 2005-05-19 Seiko Epson Corporation 画像処理装置、画像処理方法、そのプログラムおよび記録媒体
US7729543B2 (en) 2006-08-08 2010-06-01 Fujitsu Limited Imaging apparatus
JP2018113543A (ja) * 2017-01-10 2018-07-19 オリンパス株式会社 画像処理装置、画像処理方法

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4412159B2 (ja) * 2004-01-29 2010-02-10 セイコーエプソン株式会社 画像処理装置、プリンタ及びプリンタの制御方法
JP4079100B2 (ja) * 2004-02-24 2008-04-23 ソニー株式会社 再生装置および方法
JP4513357B2 (ja) * 2004-03-02 2010-07-28 セイコーエプソン株式会社 画像の出力に用いる出力装置に適した画像データの生成
JP4507855B2 (ja) * 2004-11-25 2010-07-21 ソニー株式会社 撮影装置の制御方法および制御装置、並びに制御プログラム
JP4533119B2 (ja) * 2004-12-13 2010-09-01 キヤノン株式会社 撮像装置及び撮像装置の画像表示方法
US8116576B2 (en) * 2006-03-03 2012-02-14 Panasonic Corporation Image processing method and image processing device for reconstructing a high-resolution picture from a captured low-resolution picture
JP4968259B2 (ja) * 2006-05-31 2012-07-04 日本電気株式会社 画像高解像度化装置及び画像高解像度化方法並びにプログラム
JP4850674B2 (ja) * 2006-12-07 2012-01-11 キヤノン株式会社 画像処理装置、およびプリント方法
US8130278B2 (en) * 2008-08-01 2012-03-06 Omnivision Technologies, Inc. Method for forming an improved image using images with different resolutions
KR101110725B1 (ko) * 2010-06-16 2012-02-27 엠텍비젼 주식회사 썸네일 이미지를 이용한 후보 이미지 제시 방법 및 이를 수행하는 이미지 신호 처리 장치와 촬상 장치
US9002924B2 (en) 2010-06-17 2015-04-07 Microsoft Technology Licensing, Llc Contextual based information aggregation system
EP2740156B1 (en) * 2011-08-03 2018-05-30 Fluke Corporation Maintenance management systems and methods
JP2016015567A (ja) * 2014-07-01 2016-01-28 株式会社東芝 電子機器、処理方法およびプログラム
DE102019118751A1 (de) * 2019-07-10 2021-01-14 Schölly Fiberoptic GmbH Verfahren zur Synthese von Standbildern aus einem mit einem medizinischen Bildaufnahmesystem aufgezeichneten Videobilddatenstrom

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10191135A (ja) * 1996-12-27 1998-07-21 Canon Inc 撮像装置及び画像合成装置
JPH10191136A (ja) * 1996-12-27 1998-07-21 Canon Inc 撮像装置及び画像合成装置
JPH11185015A (ja) * 1997-12-22 1999-07-09 Fujitsu Ltd 画像処理装置および画像変換プログラムを格納した記憶媒体
JPH11225308A (ja) * 1998-02-06 1999-08-17 Nec Corp デジタルカメラの多重撮影装置
JPH11341254A (ja) * 1998-05-26 1999-12-10 Canon Inc 情報処理装置及び方法並びに記憶媒体
JP2000244814A (ja) * 1999-02-24 2000-09-08 Hitachi Ltd 画像合成装置、画像合成方法が記録された記録媒体
JP2000354244A (ja) * 1999-06-11 2000-12-19 Canon Inc 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体
JP2001024928A (ja) * 1999-07-07 2001-01-26 Fuji Photo Film Co Ltd 電子カメラ及びその画像記録方法
JP2001086406A (ja) * 1999-09-10 2001-03-30 Sony Corp 画像合成装置及び方法、並びに撮像装置
JP2001119659A (ja) * 1999-10-15 2001-04-27 Matsushita Electric Ind Co Ltd 画像合成装置、画像合成方法および記録媒体
JP2001312015A (ja) * 2000-04-27 2001-11-09 Fuji Photo Film Co Ltd インデックスプリント及びその作成方法
JP2002112008A (ja) * 2000-09-29 2002-04-12 Minolta Co Ltd 画像処理システム及び画像処理プログラムが記録された記録媒体
JP2002374482A (ja) * 1997-04-16 2002-12-26 Seiko Epson Corp デジタルカメラにおける高速画像表示
JP2003264794A (ja) * 2002-03-11 2003-09-19 Ricoh Co Ltd 画像処理装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5649032A (en) * 1994-11-14 1997-07-15 David Sarnoff Research Center, Inc. System for automatically aligning images to form a mosaic image
US5696848A (en) * 1995-03-09 1997-12-09 Eastman Kodak Company System for creating a high resolution image from a sequence of lower resolution motion images
US6698021B1 (en) * 1999-10-12 2004-02-24 Vigilos, Inc. System and method for remote control of surveillance devices
US7032182B2 (en) * 2000-12-20 2006-04-18 Eastman Kodak Company Graphical user interface adapted to allow scene content annotation of groups of pictures in a picture database to promote efficient database browsing
WO2002089046A1 (en) * 2001-04-26 2002-11-07 Georgia Tech Research Corporation Video enhancement using multiple frame techniques
US7085323B2 (en) * 2002-04-03 2006-08-01 Stmicroelectronics, Inc. Enhanced resolution video construction method and apparatus

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10191136A (ja) * 1996-12-27 1998-07-21 Canon Inc 撮像装置及び画像合成装置
JPH10191135A (ja) * 1996-12-27 1998-07-21 Canon Inc 撮像装置及び画像合成装置
JP2002374482A (ja) * 1997-04-16 2002-12-26 Seiko Epson Corp デジタルカメラにおける高速画像表示
JPH11185015A (ja) * 1997-12-22 1999-07-09 Fujitsu Ltd 画像処理装置および画像変換プログラムを格納した記憶媒体
JPH11225308A (ja) * 1998-02-06 1999-08-17 Nec Corp デジタルカメラの多重撮影装置
JPH11341254A (ja) * 1998-05-26 1999-12-10 Canon Inc 情報処理装置及び方法並びに記憶媒体
JP2000244814A (ja) * 1999-02-24 2000-09-08 Hitachi Ltd 画像合成装置、画像合成方法が記録された記録媒体
JP2000354244A (ja) * 1999-06-11 2000-12-19 Canon Inc 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体
JP2001024928A (ja) * 1999-07-07 2001-01-26 Fuji Photo Film Co Ltd 電子カメラ及びその画像記録方法
JP2001086406A (ja) * 1999-09-10 2001-03-30 Sony Corp 画像合成装置及び方法、並びに撮像装置
JP2001119659A (ja) * 1999-10-15 2001-04-27 Matsushita Electric Ind Co Ltd 画像合成装置、画像合成方法および記録媒体
JP2001312015A (ja) * 2000-04-27 2001-11-09 Fuji Photo Film Co Ltd インデックスプリント及びその作成方法
JP2002112008A (ja) * 2000-09-29 2002-04-12 Minolta Co Ltd 画像処理システム及び画像処理プログラムが記録された記録媒体
JP2003264794A (ja) * 2002-03-11 2003-09-19 Ricoh Co Ltd 画像処理装置

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005046221A1 (ja) * 2003-11-11 2005-05-19 Seiko Epson Corporation 画像処理装置、画像処理方法、そのプログラムおよび記録媒体
JPWO2005046221A1 (ja) * 2003-11-11 2007-05-24 セイコーエプソン株式会社 画像処理装置、画像処理方法、そのプログラムおよび記録媒体
US7738731B2 (en) 2003-11-11 2010-06-15 Seiko Epson Corporation Image processing device, image processing method, program thereof, and recording medium
US7961985B2 (en) 2003-11-11 2011-06-14 Seiko Epson Coporation Image processing apparatus, image processing method, and program product thereof
US7729543B2 (en) 2006-08-08 2010-06-01 Fujitsu Limited Imaging apparatus
JP2018113543A (ja) * 2017-01-10 2018-07-19 オリンパス株式会社 画像処理装置、画像処理方法

Also Published As

Publication number Publication date
US20040196376A1 (en) 2004-10-07
JP4701598B2 (ja) 2011-06-15

Similar Documents

Publication Publication Date Title
JP4701598B2 (ja) 静止画像生成装置、静止画像生成方法、静止画像生成プログラム、および静止画像生成プログラムを記録した記録媒体
US7974492B2 (en) Image data reproducing apparatus with changing proportions of combined enlarged images, method of controlling same and control program therefor
US7535497B2 (en) Generation of static image data from multiple image data
JP4612845B2 (ja) 画像処理装置およびその方法
JPH02141876A (ja) アニメ画像の作成方法及び装置
US7209634B2 (en) Data processing method, data processing apparatus, and program recording medium
JP2006246307A (ja) 画像データ処理装置
JP2017156365A (ja) 液晶表示装置
JP2005122601A (ja) 画像処理装置、画像処理方法、および画像処理プログラム
JP4292995B2 (ja) 動画中の特定シーンの静止画の生成
JP2005348221A (ja) 画像生成装置、静止画像生成装置、画像ずれ量検出装置、画像整列装置、画像生成方法、画像生成プログラムおよび画像生成プログラムを記録した記録媒体
JP2005141614A (ja) 低解像度の複数の画像に基づく高解像度の画像生成における処理時間の短縮化
JP2013126123A (ja) 画像処理装置、撮像装置及び画像処理方法
JP5705027B2 (ja) 画像処理装置、画像処理装置の制御方法、およびプログラム、並びに記録媒体
JP2005129996A (ja) 低解像度の複数の画像に基づく高解像度の画像生成の効率向上
JP2005117182A (ja) 画像表示装置、画像表示方法、プログラム及び記録媒体
JP2006080651A (ja) 撮像装置及びその制御方法
JP4419500B2 (ja) 静止画像生成装置、静止画像生成方法、静止画像生成プログラム、および静止画像生成プログラムを記録した記録媒体
JP2000115694A (ja) 画像データ記録方法、画像データ記録装置、画像データ再生方法、画像データ再生装置、情報記録媒体及びコンピュータ読み取り可能な記録媒体
JP4714062B2 (ja) 高解像度画像を生成する画像拡大装置、その画像拡大方法及びその画像拡大プログラムを記録した記録媒体
JP2006020137A (ja) 画像処理装置及び推奨度表示方法
JP2005135091A (ja) 画像処理装置及び画像処理方法
JP2022165815A (ja) 画像処理装置、画像処理方法
JP2002320086A (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP5459072B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060915

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090907

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090915

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100302

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100421

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100525

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100712

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110221

R150 Certificate of patent or registration of utility model

Ref document number: 4701598

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees