JP2012003503A - 画像処理装置およびその制御方法、並びにプログラム - Google Patents
画像処理装置およびその制御方法、並びにプログラム Download PDFInfo
- Publication number
- JP2012003503A JP2012003503A JP2010137679A JP2010137679A JP2012003503A JP 2012003503 A JP2012003503 A JP 2012003503A JP 2010137679 A JP2010137679 A JP 2010137679A JP 2010137679 A JP2010137679 A JP 2010137679A JP 2012003503 A JP2012003503 A JP 2012003503A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image data
- pieces
- resolution
- movement amount
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Editing Of Facsimile Originals (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
【解決手段】N個の画像データから1個の補正画像データを生成する画像処理装置において、N個の画像データの中から1個の基準画像データを選択する選択手段と、基準画像データを除く(N−1)個の画像データの各々について、画像に含まれる複数の部分領域毎に基準画像データの画像からの画像移動量を導出する導出手段と、(N−1)個の画像データの各々について導出された画像移動量が大きいほど小さな重み値となるように複数の部分領域毎に重み値を設定する設定手段と、基準画像データの画像に設定された重み値に応じて(N−1)個の画像データの各々の画像を順次に合成することで補正画像データを生成する合成手段と、を備える。
【選択図】図1
Description
本発明に係る画像処理装置の第1実施形態として、MAP推定に基づく超解像処理を行う画像処理装置を例に挙げて以下に説明する。なお、当該画像処理装置は、例えば、画像処理を実行するコンピュータ(PC)や、撮像装置(静止画カメラ、動画カメラ)、テレビなどの表示装置、プリンターなどの印刷装置に組み込まれ得る。
図1は、第1実施形態の画像処理装置の構成を示したブロック図である。撮像部101は、撮像レンズなどの撮像光学系と、CMOS撮像素子やCCD撮像素子等の撮像素子から構成される。撮像部101から出力される映像信号は、A/D変換部102によりデジタル画像に変換され、画像処理部103に入力される。画像処理部103は、入力された画像(第1の解像度の画像)に対して解像度変換処理を実施し、入力画像の解像度よりも高解像度の画像(第2の解像度の画像)を生成する。生成された高解像度の画像は、画像表示部104で表示されるか、或いは、画像記録部105で記録媒体に記録される。
図2は、画像合成部110を説明するブロック図である。第1実施形態では、出力される補正画像データである高解像度画像(高解像度画像データ)をHR(High Resolution)画像、入力画像(画像データ)をLR(Low Resolution)画像と呼ぶ。メモリ部107に記憶されているN個(Nは2以上の整数)のLR画像は、画像入力端子201を介して画像合成部110に入力される。領域選択部109から出力される領域情報は領域情報入力端子202を介して画像合成部110に入力される。移動量算出部108から出力される相対移動量は相対移動量入力端子203を介して画像合成部110に入力される。
ここでは劣化条件が、撮像装置の点広がり関数(PSF)と、センサ画素数の制限による劣化過程であるダウンサンプリングと位置ずれ(相対移動量)により規定される場合について説明する。なお、以下の説明では、撮像装置の点広がり関数(PSF)とダウンサンプリング率の条件を撮像特性とよぶ。撮像されるLR画像をYとすると、数式(1)で定義されるように劣化条件が作用する。
以下では、各入力画像において高解像度画像の生成に使用する領域(使用領域)の選択処理について説明する。特にここでは、撮像されるLR画像に対して、数式(2)で表されるように、使用領域を表す行列を乗じることにより領域選択を行う。
第1実施形態での画像合成処理は、非特許文献2に開示されているMAP推定法をベースに行う。背景技術で述べたようにMAP推定に基づく方法は、高解像画像に対するある事前情報を利用して、事後確率を最大化する最適化問題として高解像度画像を推定する超解像処理方法である。第1実施形態では、数式(3)に従って複数のLR画像からHR画像を推定する。
図7は、フレーム間の相対移動量(画像移動量)を求める方法を説明するためのフローチャートである。ここでは、ブロック毎(部分領域毎)に動きベクトルを求め、そこから画面全体の動き量をアフィンパラメータとして求める方法について説明する。
図17は、領域選択部109で行われる高解像度画像の生成に使用する領域(使用領域)の選択方法を説明するフローチャートである。
・更新量ΔXの大きさが閾値th3未満となった場合に終了
さらに、第1実施形態では、MAP法を用いて高解像度画像を生成したが、例えば、POCS法、POCS-ML法、Back Projection法など他のループ処理を含む高解像度画像生成手法を使用しても構わない。
第2実施形態では、画像間の相対移動量に基づき、入力される複数画像の領域毎に重み値を算出し、この重み値を考慮して複数枚画像を合成し高解像度画像を生成する構成とする。なお、上述の第1実施形態は、第2実施形態における重み値を、所定閾値以上であるか否かを基準として2値化(0と1)したものに相当する。
第3実施形態では、複数画像間の位置補正後に補間処理を用いて高解像度画像を生成する構成例について説明する。つまり、MAP推定のようなループ処理を含む超解像処理だけでなく、ループ処理を用いない方式の超解像処理にも本発明は適用可能である。
第4実施形態では、超解像処理の元になる複数の画像の間の相対移動量を、有効動きベクトルの領域を領域入力端子2102を介して外部から受け付ける例について説明する。具体的には、ユーザからの指示入力に応じて類似した動きベクトルを有する領域の選択を受け付ける、
図21には、第4実施形態の画像処理装置の構成を示したブロック図である。図1に示す画像処理装置と比較して移動量算出部の構成が異なる。また、図22では、局所的な移動を含む車両部分を相対移動量の算出に用いる画像領域を示している。例えば図12の動きベクトル1203に基づいて、類似した動きベクトルを有する領域が1つの領域となるように画像を複数の領域に分割し、ユーザから有効動きベクトルの領域の選択を受け付ける。そして、選択を受け付けると、図22に示すような画面を表示し、受け付けた有効動きベクトルの領域を画像と合わせて表示する。このように構成することにより、結果として、高解像度画像を生成する際により多くの画像枚数が選択される領域をユーザが指定することが可能となる。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
Claims (7)
- N個(Nは2以上の整数)の画像データから1個の補正画像データを生成する画像処理装置であって、
N個の画像データの中から1個の基準画像データを選択する選択手段と、
前記基準画像データを除く(N−1)個の画像データの各々について、画像に含まれる複数の部分領域毎に前記基準画像データの画像からの画像移動量を導出する導出手段と、
前記(N−1)個の画像データの各々について、前記導出された画像移動量が大きいほど小さな重み値となるように前記複数の部分領域毎に重み値を設定する設定手段と、
前記基準画像データの画像に、前記設定された重み値に応じて前記(N−1)個の画像データの各々の画像を順次に合成することで前記補正画像データを生成する合成手段と、
を備えることを特徴とする画像処理装置。 - 前記設定手段は、部分領域に対する前記画像移動量が所定閾値以上である場合に、該部分領域に対する重み値をゼロとすることを特徴とする請求項1に記載の画像処理装置。
- 前記補正画像データは、前記N個の画像データの解像度より高い高解像度画像データであることを特徴とする請求項1または2に記載の画像処理装置。
- 前記N個の画像データは、撮像装置により撮像され生成され、各々が第1の解像度である画像データであり、
前記補正画像データは、前記N個の画像データの解像度より高い第2の解像度である画像データであり、
前記合成手段は、
前記基準画像データを画素補間処理して得られる前記第2の解像度である初期画像データを生成し、
前記撮像装置の撮像特性情報と前記(N−1)個の画像データの各々における前記画像移動量とに基づいて、前記初期画像データから、前記(N−1)個の画像データの各々に対応する(N−1)個の劣化画像データを生成し、
MAP推定を用いて、前記(N−1)個の画像データの各々と前記(N−1)個の劣化画像データの各々との差分が最小となるように前記初期画像データに前記(N−1)個の画像データを合成する、
ように構成され、前記(N−1)個の画像データの各々と前記(N−1)個の劣化画像データの各々との差分の評価には前記重み値が併せて使用される
ことを特徴とする請求項1または2に記載の画像処理装置。 - 前記合成手段は、前記基準画像データの画像と前記(N−1)個の画像データの各々の画像との位置合わせを行った後、補間処理によって前記基準画像データの画像に対し前記(N−1)個の画像データの各々の画像を順次に合成することを特徴とする請求項1乃至3の何れか一項に記載の画像処理装置。
- N個(Nは2以上の整数)の画像データから1個の補正画像データを生成する画像処理装置の制御方法であって、
選択手段が、N個の画像データの中から1個の基準画像データを選択する選択工程と、
導出手段が、前記基準画像データを除く(N−1)個の画像データの各々について、画像に含まれる複数の部分領域毎に前記基準画像データの画像からの画像移動量を導出する導出工程と、
設定手段が、前記(N−1)個の画像データの各々について、前記導出された画像移動量が大きいほど小さな重み値となるように前記複数の部分領域毎に重み値を設定する設定工程と、
合成工程が、前記基準画像データの画像に、前記設定された重み値に応じて前記(N−1)個の画像データの各々の画像を順次に合成することで前記補正画像データを生成する合成工程と、
を備えることを特徴とする画像処理装置の制御方法。 - コンピュータを請求項1乃至5のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010137679A JP5566199B2 (ja) | 2010-06-16 | 2010-06-16 | 画像処理装置およびその制御方法、並びにプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010137679A JP5566199B2 (ja) | 2010-06-16 | 2010-06-16 | 画像処理装置およびその制御方法、並びにプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012003503A true JP2012003503A (ja) | 2012-01-05 |
JP5566199B2 JP5566199B2 (ja) | 2014-08-06 |
Family
ID=45535408
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010137679A Expired - Fee Related JP5566199B2 (ja) | 2010-06-16 | 2010-06-16 | 画像処理装置およびその制御方法、並びにプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5566199B2 (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013162357A (ja) * | 2012-02-06 | 2013-08-19 | Nikon Corp | 画像処理プログラム、画像処理装置、および撮像装置 |
JP2014044497A (ja) * | 2012-08-24 | 2014-03-13 | Jvc Kenwood Corp | 画像処理装置 |
WO2014077024A1 (ja) * | 2012-11-19 | 2014-05-22 | コニカミノルタ株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
JP2018160235A (ja) * | 2017-03-22 | 2018-10-11 | キヤノン株式会社 | 情報処理装置及びその制御方法及びプログラム |
US11164320B2 (en) * | 2017-12-14 | 2021-11-02 | Olympus Corporation | Image processing apparatus and method for appropriately synthesizing a plurality of images using projection transform matrix calculation |
US12020447B2 (en) | 2020-06-03 | 2024-06-25 | Konica Minolta, Inc. | Image processing to obtain a still image with a high image quality by combining multiple frame images of a dynamic image |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006033062A (ja) * | 2004-07-12 | 2006-02-02 | Seiko Epson Corp | 画像処理装置、画像処理方法、および、画像処理プログラム |
JP2007052672A (ja) * | 2005-08-18 | 2007-03-01 | Sony Corp | 画像処理方法、画像処理装置、プログラムおよび記録媒体 |
JP2007259477A (ja) * | 2002-09-30 | 2007-10-04 | Toshiba Corp | 画像合成方法、画像合成装置、画像合成プログラム |
WO2008099685A1 (ja) * | 2007-02-01 | 2008-08-21 | Sony Corporation | 画像再生装置と画像再生方法および撮像装置とその制御方法 |
JP2009194896A (ja) * | 2008-01-18 | 2009-08-27 | Sanyo Electric Co Ltd | 画像処理装置及び方法並びに撮像装置 |
-
2010
- 2010-06-16 JP JP2010137679A patent/JP5566199B2/ja not_active Expired - Fee Related
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007259477A (ja) * | 2002-09-30 | 2007-10-04 | Toshiba Corp | 画像合成方法、画像合成装置、画像合成プログラム |
JP2006033062A (ja) * | 2004-07-12 | 2006-02-02 | Seiko Epson Corp | 画像処理装置、画像処理方法、および、画像処理プログラム |
JP2007052672A (ja) * | 2005-08-18 | 2007-03-01 | Sony Corp | 画像処理方法、画像処理装置、プログラムおよび記録媒体 |
WO2008099685A1 (ja) * | 2007-02-01 | 2008-08-21 | Sony Corporation | 画像再生装置と画像再生方法および撮像装置とその制御方法 |
JP2009194896A (ja) * | 2008-01-18 | 2009-08-27 | Sanyo Electric Co Ltd | 画像処理装置及び方法並びに撮像装置 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013162357A (ja) * | 2012-02-06 | 2013-08-19 | Nikon Corp | 画像処理プログラム、画像処理装置、および撮像装置 |
JP2014044497A (ja) * | 2012-08-24 | 2014-03-13 | Jvc Kenwood Corp | 画像処理装置 |
WO2014077024A1 (ja) * | 2012-11-19 | 2014-05-22 | コニカミノルタ株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
JP2018160235A (ja) * | 2017-03-22 | 2018-10-11 | キヤノン株式会社 | 情報処理装置及びその制御方法及びプログラム |
JP7005338B2 (ja) | 2017-03-22 | 2022-01-21 | キヤノン株式会社 | 情報処理装置及びその制御方法及びプログラム |
US11164320B2 (en) * | 2017-12-14 | 2021-11-02 | Olympus Corporation | Image processing apparatus and method for appropriately synthesizing a plurality of images using projection transform matrix calculation |
US12020447B2 (en) | 2020-06-03 | 2024-06-25 | Konica Minolta, Inc. | Image processing to obtain a still image with a high image quality by combining multiple frame images of a dynamic image |
Also Published As
Publication number | Publication date |
---|---|
JP5566199B2 (ja) | 2014-08-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5906493B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体 | |
JP5385969B2 (ja) | 画像の超解像のための方法及び装置 | |
JP4968259B2 (ja) | 画像高解像度化装置及び画像高解像度化方法並びにプログラム | |
EP2560375B1 (en) | Image processing device, image capture device, program, and image processing method | |
US20150104116A1 (en) | Method and apparatus for performing super-resolution | |
JP4371457B2 (ja) | 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体 | |
JP2014192613A (ja) | 画像処理装置及び方法、及び撮像装置 | |
JP2007000205A (ja) | 画像処理装置及び画像処理方法並びに画像処理プログラム | |
JP5166156B2 (ja) | 解像度変換装置、方法およびプログラム | |
JP5500163B2 (ja) | 画像処理システム、画像処理方法および画像処理プログラム | |
JP5566199B2 (ja) | 画像処理装置およびその制御方法、並びにプログラム | |
JP2008091979A (ja) | 画像高画質化装置、及びその方法、並びに画像表示装置 | |
Jeong et al. | Multi-frame example-based super-resolution using locally directional self-similarity | |
KR101538313B1 (ko) | 블록단위 영상 정합을 이용한 초해상도 영상 복원 방법 및 장치 | |
JPWO2011018878A1 (ja) | 画像処理システム、画像処理方法および画像処理用プログラム | |
JP5587322B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP6772000B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP4250237B2 (ja) | 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体 | |
JP4095204B2 (ja) | 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体 | |
US20130120461A1 (en) | Image processor and image processing method | |
JPH11331696A (ja) | 画像処理方法、装置および記録媒体 | |
JP2013126123A (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
JP2013069012A (ja) | 多眼撮像装置 | |
JP6671975B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびコンピュータプログラム | |
JP2009064193A (ja) | 解像度変換装置及び方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130426 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20131119 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20131125 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140121 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140519 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140617 |
|
LAPS | Cancellation because of no payment of annual fees |