JP3974964B2 - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP3974964B2 JP3974964B2 JP31226096A JP31226096A JP3974964B2 JP 3974964 B2 JP3974964 B2 JP 3974964B2 JP 31226096 A JP31226096 A JP 31226096A JP 31226096 A JP31226096 A JP 31226096A JP 3974964 B2 JP3974964 B2 JP 3974964B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- correction
- input
- correction parameter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 112
- 238000012937 correction Methods 0.000 claims description 141
- 238000003702 image correction Methods 0.000 claims description 43
- 239000000203 mixture Substances 0.000 claims description 39
- 238000000034 method Methods 0.000 claims description 16
- 230000008569 process Effects 0.000 claims description 4
- 238000003672 processing method Methods 0.000 claims description 2
- 230000004075 alteration Effects 0.000 description 34
- 238000010586 diagram Methods 0.000 description 26
- 230000003287 optical effect Effects 0.000 description 16
- 230000002093 peripheral effect Effects 0.000 description 12
- 238000006243 chemical reaction Methods 0.000 description 11
- 230000002194 synthesizing effect Effects 0.000 description 9
- 230000015572 biosynthetic process Effects 0.000 description 7
- 238000003786 synthesis reaction Methods 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 6
- GGCZERPQGJTIQP-UHFFFAOYSA-N sodium;9,10-dioxoanthracene-2-sulfonic acid Chemical compound [Na+].C1=CC=C2C(=O)C3=CC(S(=O)(=O)O)=CC=C3C(=O)C2=C1 GGCZERPQGJTIQP-UHFFFAOYSA-N 0.000 description 6
- 239000002131 composite material Substances 0.000 description 5
- 239000000470 constituent Substances 0.000 description 5
- 230000015654 memory Effects 0.000 description 5
- 230000006835 compression Effects 0.000 description 4
- 238000007906 compression Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 230000006837 decompression Effects 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 238000002834 transmittance Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 2
- 230000007935 neutral effect Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 238000001454 recorded image Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/14—Transformations for image registration, e.g. adjusting or mapping for alignment of images
- G06T3/153—Transformations for image registration, e.g. adjusting or mapping for alignment of images using elastic snapping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/387—Composing, repositioning or otherwise geometrically modifying originals
- H04N1/3876—Recombination of partial images to recreate the original image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/40—Picture signal circuits
- H04N1/407—Control or modification of tonal gradation or of extreme levels, e.g. background level
- H04N1/4072—Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on the contents of the original
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2201/00—Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
- H04N2201/32—Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
- H04N2201/3201—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
- H04N2201/3225—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
- H04N2201/3247—Data linking a set of images to one another, e.g. sequence, burst or continuous capture mode
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
Description
【発明の属する技術分野】
本発明は、異なる露出で撮影した複数の画像を合成する画像処理装置に係り、特に合成する画像の明るさを補正して画像合成する画像処理装置に関する。
【0002】
【従来の技術】
近年、パーソナルコンピュータ(以下、PCと称する)は、製造技術の向上に伴い、高性能化及び低価格化が進み、企業、教育、家庭などで広く普及しつつある。
【0003】
このようなPCへの画像取り込み装置としては、従来のカメラにより撮影された銀塩フィルムから光学的に画像を取り出し、画像信号に変換して取り込んでいる。
【0004】
また、カメラの他に、ビデオ信号として画像を撮影するビデオカメラ等の映像情報機器がいろいろな場面で利用されている。特に、デジタルスチルカメラ(以下、デジタルカメラと称する)は、銀塩フィルムを使用せず、デジタル信号により画像を撮影・記録し、そのデジタル信号で直接画像として取り込み装置に入力でき、ディスプレイやプリンタに出力するため、現像処理が不必要であり、且つ消去や編集が容易である。これらの理由に加え、インターネットユーザの増加、及びデジタルカメラ自体の低価格が進んだことから、PCユーザを中心にデジタルカメラの需要が急速に拡がっている。
【0005】
しかし、このデジタルカメラは、光電変換を利用したCCD等の固体撮像素子によって光電変換により被写体像を画像信号として撮像するが、銀塩フィルムに比較して、ダイナミックレンジが劣るため、広ダイナミックレンジ化の技術が強く望まれている。
【0006】
この高解像度化する方法の1つとして、撮像素子の画素数を増やす方法が考えられる。しかし、一般に固体撮像素子のコストは、画素数の増大に従って急速に上昇することが知られている。
【0007】
そこで、本出願人は、例えば、特開平6−141246号公報に記載されるような複数の撮像素子で撮影した画像を合成する技術や、特開平6−141228号公報に記載されるようなカメラの移動等で被写体を分割撮影し、1つの撮像素子により得られた複数の画像を合成する技術を提案している。
【0008】
ところが、通常、撮影した画像は、光学系による歪曲収差の影響を受けて、像が歪んでしまっているため、前述した公報に記載されるような技術で合成した場合、重複部分が左右で異なり、合成された被写体が二重になる問題が生じる。また、重ね合わせの基準となる幾つかの点の位置の移動が原因になって、実際には画像が回転していないにも係わらず、回転したものとして検出されてしまい、合成が上手くいかなくなるといった問題が生じる。
【0009】
そのため、本出願人は、例えば特開平8−116490号公報において、処理装置内に幾何学的補正を施す画像補正手段を設けることで収差の影響を補償する画像処理装置を提案した。この画像処理装置の構成例を図18に示す。
【0010】
この画像処理装置の画像入力部1a〜1cは、光学系2、CCD等の撮像部3、A/D 変換部4とで構成され、それぞれ被写体5の異なる部分(位置)を重複領域を持たせて、撮像するように配置されている。
【0011】
この撮像部3の出力信号は、A/D変換部4によりデジタル化され、画像補正部17a〜17cに入力される。前記画像補正部17a〜17cは、さらに撮影時に記録したフォーカス位置等の撮影条件や光学系の特性パラメータを読み込んで、画像入力部 1a〜1cで撮影された画像の歪曲収差等を補正する。
【0012】
次に、画像合成部6においては、画像補正部17a〜17cで補正された画像を入力信号として、後述する技術で、図20に示すような広角画像に合成され、モニタ7、プリンタ8、記憶媒体9等に出力される。
【0013】
前記画像合成部6は、図19に示すような構成により実現される。
この構成において、各画像a、b、cは、フレームメモリ10にそれぞれ一時的に記憶され、隣り合う画像(例えば、画像aと画像b)間の平行移動量S1、回転量R1がずれ検出器11aで求められる。同様に、画像bと画像c間の平行移動量S2、回転量R2がずれ検出器11bで求められる。
【0014】
これらの平行移動量S1、S2、回転量R1、R2は、フレームメモリ10b、10cから読み出された画像と共に、補間演算器12a、12bにそれぞれ入力され、位置関係を補正した画像が作成される。
【0015】
また、係数設定器13では、隣接する画像が滑らかに接続されるように、図20に示すような各画像の係数Ca、Cb、Ccを設定する。各画像の画素値には係数Ca、Cb、Ccが乗算部14で乗じられ、重複する部分は加算部15で加算される。
【0016】
図20は、合成される画像の重なり部分の処理を説明するための図である。
画像aに対して画像bは、反時計回りに回転している。この回転とオーバーラップ量(平行移動量)をずれ検出器11で算出する。また、画像a、bがオーバーラップする部分は、滑らかに結合されるように図20に示すような係数Ca、Cb、Ccを乗算して加え合わせる。このようにして、複数の画像を合成した高解像度・広画角な画像が画像合成部6から出力される。
【0017】
撮像素子の広ダイナミックレンジ化に関しては、本出願人は、特開昭63−232591号公報により、露出を変えて撮影した複数の画像を合成して、銀塩フィルム並みのダイナミックレンジを持つ画像を生成する技術を開示している。
【0018】
この技術は、画像合成部6を図22に示すように構成することで実現できる。図22では、簡単のため2枚の画像を合成する例について概念的に説明するが、3枚以上の合成であっても同様な処理により合成が可能である。
【0019】
2枚の画像a、bは加算器21で加算され、フレームメモリ10に格納される。線形変換部22は、フレームメモリ10のデータを読み出し、変換テーブルを元に撮影時の入射光のR、G、B値に対応する値を算出して、マトリクス回路23に入力する。この時の R、G、B値は、デジタルカメラ等の入力機器のダイナッミクレンジを超えた画像になっている。
【0020】
また、変換テーブルは、変換テーブル作成部27で、2枚の画像の露出時間比Rexp から決められる。マトリクス回路23では、R、G、B値から輝度信号値Yを求める。輝度信号圧縮部24からは、出力装置に合わせて階調を圧縮した輝度値Y’が出力され、除算器25で元の輝度値Yとの比Y’/Yが求められる。この比Y’/Yは、線形変換部22の出力 R、G、Bと乗算器25で乗算され、合成画像結果として、フレームメモリ16に格納される。
【0021】
ところで、一般に撮像素子の出力する信号は、図21に示すような長時間露出の例とすると、露出によっては、ある入射光量以上で飽和して一定になる。
そこで、長時間露出と短時間露出の信号を加算した信号は、図21で加算信号と示した折れ線のように入射光量に対して変化する。そこで、変換テーブル作成部27では、ある加算信号値Sから入射光量Iを推定するようなテーブルを作成する。
【0022】
また、一般に画像値は、0 〜255の256階調で表現するため、輝度圧縮部24では、各画素の輝度Yを、例えば(1)式で圧縮する。
Y’=b・Ya (1)
ここで、aは圧縮の形状を決める係数で、bは画像全体のゲインを決定する係数である。
【0023】
露出時間の違う2枚の画像を上記のような方法で合成すると、銀塩フィルム並みのダイナミックレンジを持ち、暗いところから明るいところまで良好な露出を持った画像を得ることができる。
【0024】
【発明が解決しようとする課題】
しかし、広ダイナミック化の技術においては、従来技術で説明したように、加算信号から入射光量を推定するテーブルを作成する必要があるが、図21に示すように、加算信号の傾きが変化する点Nは、露出時間比R exp によって変化する。そのため、合成対象の複数の画像の露出時間比R exp を予め知っていることが必要とされる。ところが、市販されているデジタルカメラでは、露出調整はできても、 その比をユーザが知ることのできない構成になっていることが多い。
【0025】
図23には、歪曲収差の例を示す。歪曲収差は、一般にレンズの中心からの距離に応じて生じる幾何学変形である。歪曲収差が無い光学系を通して、例えば、格子状の被写体を撮影すると、図23(a)に示すようになる。しかし光学系が歪曲収差を有していると、例えば、図23(b)に示すように、本来直線で写るべき部分が曲がって写ってしまう。このように光学系に歪曲収差がある場合、図23(c)に示すように、直線Lは、曲線L’のように歪んで結像するため、直線L上の点Yは、曲線L’上の点Y’に移動する。ここで画像上のある1点における収差量DRは、
ΔR=A1 ・R3 +A2 ・R5 +… (2)
のような多項式で表される。
【0026】
ここで、Rは画像中心から点Yまでの距離である。収差を補正させた画像を作成するには、点Y’を画像中心Cと点Y’を結ぶ直線上を収差量ΔRだけ移動すればよい。ところが、係数A1 ,A2 ,…は光学系の焦点位置によって異なり、係数A1 ,A2 ,…を正確に知ることは、通常のユーザには困難である。
【0027】
また、使用する機材によっても係数A1 ,A2 ,…は異なるため、違う機材を使用する場合は、補正係数を改めて調整しなくてはならない。
さらに、ズーム比を変えて撮影すると、隣り合った画像間で大きさが異なり、互いに重複して撮影しているにも係わらず、正確に貼合せることができない。
【0028】
また、室内など近くの被写体を撮影する場合には、撮影者が数歩動いた場合でも大きさが変わってしまう。
また、自動的にホワイトバランスが調整されるような機材の場合には、例えば、 太陽に近い方向を撮影した場合と、太陽から離れた方向を撮影した場合に、色合いが大きく異なる場合が考えられる。そのため、前記の技術で画像を合成した場合、滑らかに色合いが変化するものの、全体として不自然な画像になってしまう。 また広ダイナミック化の技術においては、従来技術で説明したように、加算信号から入射光量を推定するテーブルを作成する必要があるが、図21に示すように、加算信号の傾きが変化する点Nは、露出時間比Rexp によって変化する。そのため、合成対象の複数の画像の露出時間比Rexp を予め知っていることが必要とされる。ところが、市販されているデジタルカメラでは、露出調整はできても、 その比をユーザが知ることのできない構成になっていることが多い。
【0029】
そこで本発明では、撮影した画像のみから効果的に広ダイナミックレンジ化画像を作成することが可能な画像処理装置を提供することを目的とする。
【0030】
【課題を解決するための手段】
本発明は、上記目的を達成するために、1つの構図において、異なる露出条件で撮影して得られた複数の画像を入力する画像入力手段と、前記複数の入力画像のうちの少なくとも1枚の画像を表示する画像表示手段と、前記露出条件が異なる複数の入力画像のうち、少なくとも1枚の画像の明るさを補正するのに必要な補正パラメータを設定する補正パラメータ設定手段と、前記画像表示手段に表示される複数の画像間における画像の明るさの差異に応じて、前記補正パラメータ設定手段により前記補正パラメータを変化させて前記少なくとも1枚の画像の明るさを補正することにより、前記補正パラメータを再設定する画像補正手段と、前記複数の入力画像を加算して階調範囲の広い加算画像を得て、前記画像補正手段により再設定された補正パラメータに基づいて、前記得られた加算画像の信号値から前記1つの構図が前記画像入力手段で入力されたときの入射光量を推定し、前記加算画像を、前記画像表示手段で表示可能な階調範囲内に収まるように変換する画像生成手段と、を備える画像処理装置を提供する。
【0032】
さらに、1つの構図において、異なる露出条件で撮影して得られた複数の画像を入力する画像入力工程と、前記複数の入力画像のうちの少なくとも1枚の画像を表示する画像表示工程と、前記露出条件が異なる複数の入力画像のうち、少なくとも1枚の画像の明るさを補正するのに必要な補正パラメータを設定する補正パラメータ設定工程と、前記画像表示工程に表示される複数の画像間における画像の明るさの差異に応じて、前記補正パラメータ設定工程により前記補正パラメータを変化させて前記少なくとも1枚の画像の明るさを補正することにより、前記補正パラメータを再設定する画像補正工程と、前記複数の入力画像を加算して階調範囲の広い加算画像を得て、前記画像補正工程により再設定された補正パラメータに基づいて、前記得られた加算画像の信号値から前記1つの構図が前記画像入力工程で入力されたときの入射光量を推定し、前記加算画像を、前記画像表示工程で表示可能な階調範囲内に収まるように変換する画像生成工程と、を備える画像処理方法を提供する。
【0034】
また、コンピュータに、1つの構図を異なる露出条件で撮影した画像を1つの画像に合成するように実行させるプログラムであって、1つの構図を異なる露出条件で撮影した複数の画像として入力する画像入力工程と、前記露出条件が異なる複数の画像のうち、少なくとも1枚の画像の明るさを補正するのに必要な補正パラメータを設定する補正パラメータ設定工程と、前記設定された補正パラメータに従って、前記複数の画像のうち、少なくとも1枚の画像に対して明るさを補正する画像補正工程と、前記画像補正工程により補正された画像のうち少なくとも1枚の画像を表示する画像表示工程と、前記複数の入力画像と前記設定された補正パラメータに基づいて、前記1つの構図が前記画像入力工程で入力されたときの入射光量を測定し、前記画像補正工程で明るさが補正された複数の画像を、前記画像表示工程の表示可能範囲に収まるように変換して合成する画像合成工程とを備えるプログラムを提供する。
【0036】
【発明の実施の形態】
以下、図面を参照して本発明の実施形態について詳細に説明する。
図1には、本発明による第1の実施形態としての画像処理装置の概略的な構成を示し説明する。本実施形態は、ディスプレイ等の表示を見ながら簡便に収差を補正し、補正した画像を合成して高解像度・広画角の画像を得る装置である。
【0037】
この画像処理装置は、デジタルスチルカメラ(以下、デジタルカメラと称する)31で撮影した画像や撮影時の撮影条件等の撮影情報からなる画像データを記録するメモリカード32と、メモリカード32から画像データを読み取るカードリーダ33と、読み取られた画像データから画像を再生し、それらの画像に収差や色調等の補正を施し、合成する画像処理部34と、合成された画像及び画像データを表示するモニタ7、印刷出力するプリンタ8及び画像等を記憶する光ディスクやメモリカード等の記録媒体9からなる。
【0038】
前記画像処理部34は、カードリーダ33で読み取られた画像データから伸長等の処理を行い画像及び撮影情報を再生する画像データ再生部35と、画像に収差や色調等の補正を行う画像補正処理部36と、画像合成のための画像切り替えを行う信号切り替え部37と、画像を合成する画像合成部6で構成される。
【0039】
このような構成により、ユーザがデジタルカメラ31を使って、被写体像の一部分が互いに重複するように分割した画像を撮影する。撮影されたこれらの画像(画像a,画像b,…)は、圧縮・ヘッダ情報の付加などの処理がデジタルカメラ31内で施された後、メモリカード32に画像データとして記録される。このメモリカード32は、カードリーダ33に挿入され、記録された画像データがメモリカード32から読み出され、画像処理部34に取り込まれる。取り込まれた画像データは、まず、画像データ再生部35に入力され、伸長等の処理が行われて画像データとして再生される。
【0040】
そして、再生された画像データは、画像補正処理部36で補正処理が行われ、信号切替部37を通って、画像合成部6に入力される。画像合成部6は、図19に示した構成を備えているものとする。この画像合成部6は、例えば、特開平6−141228号公報と同様の処理を施して合成し、その合成画像をモニタ7、プリンタ8、記憶媒体9等に出力する。
【0041】
次に図2には、前述した画像補正処理部36の詳細な構成を示し説明する。
この画像補正処理部36は、原画像・補正画像を表示する画像表示部44と、入力された画像に対する収差補正を行う収差補正処理部41と、該収差補正処理部41で補正に用いるパラメータを記憶する補正パラメータ記憶部42と、ユーザの操作により補正パラメータを調整して設定、または、補正パラメータ記憶部42から読み出された補正パラメータを選択して設定する補正パラメータ設定部43とで構成される。
【0042】
前記画像補正処理部36は、撮影を行うカメラにおいて、撮影した画像に対し1度も収差補正を施したことがなく、そのカメラで撮影した画像に対して初めて収差補正を施す場合と、以前に撮影画像を補正したことがあり、収差補正歴が残っているカメラで撮影した画像を補正する場合とでは異なった働きをする。
【0043】
まず、初めて使用したカメラで撮影した画像に対して、収差補正をする場合について説明する。
前記収差補正処理部41では、図23(b)に示したような歪曲収差のある画像(例えば、画像a)が入力され、あらかじめ設定された(2)式における係数A1 ,A2 ,…の初期値を用いて、(2)式に従って補正した画像を画像表示部44に出力する。この画像表示部44は、補正画像と同時に原画像aを表示する。
【0044】
そして補正パラメータ設定部43では、係数A1 ,A2 ,…を調整する機構を備え、ユーザの操作により所望の係数を設定すると、直ちに係数を更新するように、収差補正処理部41に新たな係数A1 ,A2 ,…をフィードバックする。収差補正処理部41は、新たに設定した後の係数で補正した画像を出力し、画像表示部44の表示は、新たに補正された画像に更新される。
【0045】
ユーザは、2枚若しくは少なくとも1枚の画像を見ながら、補正パラメータ設定部43を操作して、撮影に用いたカメラからの画像に対して最適な補正を行う係数A1 ,A2 ,…を決定する。この時、補正パラメータ設定部43は、図3(a)に示したように、画像表示部44上に表示した仮想的な調整つまみをマウスやキーボード等で操作するように構成すると、操作が簡便で好ましい。このつまみを操作して、係数(図3では、A1 ,A2 )を変更すると、画面上の「補正後画像」が新たな係数値に応じて補正され、更新される。勿論、表示画面に2枚以上の表示が必要な場合には、任意の枚数の画像を表示してもよい。
【0046】
そして、ユーザは、補正が十分だと判断した場合には、「OK」キーを押して(マウスの場合にはクリックして)、係数A1 ,A2 ,…を決定する。このように決定された係数は、それぞれカメラの機種名等ユーザが任意に付けた名前と共に、補正パラメータ記憶部42に記憶される。これは例えば、図4に示すような形式のファイルとして、補正パラメータ記憶部42に記憶させればよい。
【0047】
前述した係数調整に用いる画像は、任意のもので構わないが、ビル、本棚、窓枠や方眼紙のように、直交する直線が多く含まれる被写体を撮影した画像の方がより調整がしやすい。
【0048】
次に過去に撮影画像を補正したことがあり、その時の係数A1 ,A2 ,…が補正パラメータ記憶部42にファイルとして保存されているカメラにより撮影された画像を補正する場合について説明する。
【0049】
このような場合には、補正パラメータが撮影機材を示す名前と関連づけられて記憶されているため、画像処理装置を起動させる際に、そのデータを読み込み、図3(b)に示すように画像表示部44にメニュー形式で表示する。そしてユーザが、そのメニュー画面から使用機材名を選択すると、対応する係数A1 ,A2 ,…が補正パラメータ記憶部42から補正パラメータ設定部43を介して収差補正処理部41へ読み出され、入力画像に収差補正処理を施した画像が収差補正処理部41から出力される。
【0050】
以上説明したように、本実施形態では、あらかじめ撮影機材の光学系の収差情報を知る必要はなく、ユーザが撮影した画像のみを見ながら補正係数を決定するため、今まで使用していなかったカメラであっても、使用するに際して、その光学系の特性を事前に知る必要がない。
【0051】
また、一旦、撮影した画像に収差補正を行ったことのあるカメラに対しては、収差の補正係数がデータとして記録されているため、メニューから選択するだけで補正処理を実施できるので、画像合成に用いる全ての画像に対して、毎回パラメータを設定して補正しなければならない、といった操作の煩雑さを回避することができる。
【0052】
なお、本実施形態では、メモリカードに画像を記憶するデジタルカメラを利用しているが、これに限定されず、直接、画像再生部に入力するような機材でも画像処理が可能である。また、一台の入力装置で複数の画像を撮影する場合について説明しているが、複数の入力装置を同時に用いて入力する構成においても可能である。また、本実施形態では、補正パラメータ設定部43は、画像表示部44上に示した仮想的な調整つまみとして説明したが、回転式やスライド式の別体のスイッチとしても構わない。
【0053】
さらに、本実施形態では原画像と処理結果を見比べながら補正するような構成であるが、ビル・本棚等直線部分が多く含まれるな収差による画像であれば、補正処理後の画像のみを画像表示部44に表示して、直線部分がまっすぐになるように調整することで、係数A1 ,A2 ,…を決定することができる。
【0054】
次に、第2の実施形態としての画像処理装置について説明する。
本実施形態は、前述した第1の実施形態の変形であり、図5乃至図8を参照して説明する。本実施形態の構成部位で、前述した図1及び図2に示す構成部位と同等の部位には、同じ参照符号を付して、その説明を省略する。
【0055】
図6は、本実施形態の構成例を示す図であり、第1の実施形態とは、画像合成部6から出力された合成画像を画像補正処理部36に入力している点が異なっている。図7は、画像補正処理部36の構成例を示す。図8は、画像補正処理部36の画像表示部44に表示される画面の一例を示す。
【0056】
この構成において、画像データ再生部35で伸長等が施された画像データ(ここでは画像a)は、収差補正処理部41に入力され、予め設定された補正パラメータ値A1 ,A2 ,…を用いて補正されたデータが画像合成部6に出力される。同様に、補正処理された画像に隣接する画像においても、収差補正処理部41で補正された後に出力され、画像合成部6で画像合成を行い、繋ぎ合わされた画像を生成する。そして、合成された結果画像は、画像補正処理部36に入力され、画像表示部44で表示される。
【0057】
次に図5を参照して、ユーザの操作による実際の処理例について説明する。
図5(a)は、撮影対象となる被写体である。これを歪曲収差のある光学系を通し分割して取り込むと、図5(b)に示すように、画像の周辺で被写体が歪んでしまう。
【0058】
例えば、画像上に複数の特徴点の組(図5ではP1とP1’、P2とP2’、P3とP3’との3組)を設定する。この設定は、予め定めたプログラムによる制御により画像合成部6で自動的に行っても良いし、ユーザの操作により指定しても構わない。これらの組の中から2点を選択する。ここでは、P1とP2を選択した例について説明する。
【0059】
このとき、収差補正係数A1 ,A2 ,…が正確でないまま画像合成部6で、P1とP2を基準に平行移動量、回転量を求めて合成すると、図5(c)に示すように P1とP1’、P2とP2’は正確に一致するが、P3とP3’は一致しない。当然、周囲の他の各点も一致しない。
【0060】
そこで、図6に示す装置構成により、実施された合成結果を画像表示部44に表示し、ユーザは、それらの表示を見ながら基準点P1とP2以外が一致するように係数 A1 ,A2 ,…を調整する。調整された係数A1 ,A2 ,…は、収差補正処理部41に直ちに入力され、新たに補正した画像が画像合成部6により繋ぎ合わされて、画像表示部44に再表示される。
【0061】
この時、係数 A1 ,A2 ,…が正しく設定されるならば、P1とP1’、P2とP2’だけでなく、P3とP3’も同時に一致する。このような方法により、風景画像・人物画像など一見収差の分かりにくい画像についても容易に補正することができる。
【0062】
本実施形態では、画像表示部44上に表示される画像を見て、係数 A1 ,A2 ,…を調整するようにしているが、P3とP3’のズレを自動的に検出して、そのズレが0若しくは最小になるように係数A1 ,A2 ,…を自動的に補正しても構わない。
【0063】
次に図9には、第3の実施形態としての画像処理装置の画像補正処理部の構成例を示し説明する。本実施形態の構成部位で、前述した第1、第2の実施形態と同等の構成部位には、同じ参照符号を付して、その説明を省略する。 一般に、カメラ等の光学系における周辺減光の影響で、撮影された画像は、周辺に行くほど入射光量が落ちてしまっている。そのため、周辺減光の大きな画像を、前述した画像合成装置で繋ぎ合わせると、オーバーラップ領域の部分で画像が暗くなってしまい、不自然な合成画像が生成される。
【0064】
この周辺減光は、図10に示すように、画像中心からの距離Rが大きくなるにつれて、画像の明るさが暗くなってしまう現象であり、理想的な信号値Sに対して、周辺減光のある場合の信号値S’は、近似的には、次の(3)式のように多項式で与えられる。
【0065】
S’/S=B0 +B1 ・R+B2 ・R2 +… (3)
そこで、図9に示すように画像補正処理部36を、画像表示部44と、周辺減光補正処理部46と、周辺減光補正パラメータ記憶部47と、周辺減光補正パラメータ設定選択部48とで構成する。
【0066】
この周辺減光補正パラメータ設定選択部48では、係数B0 ,B1 ,B2 ,…を画像表示部44上に表示する仮想的なつまみを動かして調整し、画像の中心と周囲で明るさが同一になるように設定する。
【0067】
このような構成で、係数 B0 ,B1 ,B2 ,…を設定するように構成すれば、撮影に使用するカメラ等の光学系の諸パラメータを知らなくても、撮影した画像に基づき簡単に補正することができ、画像合成部6で繋ぎ合わされた画像は、オーバーラップ部でも不自然に暗くならず、画面全体として自然な画像を得ることができる。
【0068】
また、周辺減光も歪曲収差と同様に、撮影機材の光学系に固有の現象であるので、第1の実施形態で説明したように、一旦補正して設定した係数の値を撮影機材の名称等と関連づけて保存しておき、2回目以降はメニューからその名称を選ぶだけで補正することが可能である。
【0069】
さらに、本実施形態では、原画像と処理結果を見比べながら補正すると説明したが、画像全体の明るさが一様になればいいので、補正処理後の画像のみを画像表示部44に表示して係数B0 ,B1 ,B2 ,… を設定・選択するようにしてもよい。
【0070】
次に図11及び図12を参照して、第4の実施形態としての画像処理装置の色調補正を行う構成について説明する。
図11に示す構成の画像補正処理部36は、画像表示部44と、原画像をHSI変換と称する変換により、色相(Hue ;H)、彩度(Saturation;S)、明度(Intensity ;I)にそれぞれ変換する色調補正部51と、H、S、Iの変換を行う補正パラメータを調整して色調を補正する補正パラメータ設定選択部43とで構成される。
【0071】
このような画像補正処理部36により、原画像はそれぞれ色調補正部51に入力され、 HSI変換で色相H、彩度S、明度Iに変換される。さらに、色調補正部51では、補正パラメータ設定部43で設定した色相H 、色彩S、明度Iに基づき、入力画像を補正し、画像表示部44に出力する。ユーザは画像表示部44に表示される画像を比較しながら、図12に示すような画面上の色相H 、色彩S、明度Iの調整用つまみを操作して、両者が同じような色調になるように調整する。そして色調が調整されたデータは、画像合成部6で合成され、繋ぎ合わされる。
【0072】
このように構成された画像補正処理部36により、画像合成の際に隣り合う複数の画像を合成した画像のオーバーラップ領域だけでなく、画面全体の色調が自然なものとなるようにすることができる。勿論、本実施形態では、色相・色彩・明度に変換して調整するように説明したが、ホワイトバランスを合わせるのと同様に、R、G、Bそれぞれの信号レベルを合わせるようにしても良い。
【0073】
さらに図13に示すように、画像補正処理部36に画像拡大縮小部52と補正パラメータ設定選択部43を備えることにより、ズーム比の違い、撮影者の撮影位置による被写体の大きさ変化にも対応して、良好な合成画像を得ることができる。
【0074】
次に、図14乃至図17を参照して、第5の実施形態としての画像処理装置による広ダイナミック化処理を行う構成例を示し説明する。
この画像処理装置は、広ダイナミック化技術において、既に撮影された画像から露出時間比Rexp を算出し、この露出時間比を用いて画像を合成する装置である。本実施形態の構成部位で前述した第1の実施形態の構成部位と同等の部位には同じ参照符号を付してその説明を省略する。
【0075】
本実施形態の画像処理装置は、画像処理部34に露出時間比算出部61を備えた構成である。
この画像処理部34において、再生された画像a、bは、まず信号切替部37を経由して、露出時間比算出部61に入力され、結果として、露出時間比Rexp が画像合成部6に入力される。この画像合成部6で、算出された露出時間比Rexp を用いて画像a、bを合成し、入力機器のダイナミックレンジを超えた画像が出力される。なお、画像合成部6の構成は、図22と同様の構成を用いているため、ここでは説明を省略する。
【0076】
図15には、前記露出時間比算出部61の構成例を示し説明する。
この露出時間比算出部61は、画像表示部44と、ユーザにより露出時間比Rexp を調整するための露出時間比設定部63と、この露出時間比設定部63で設定された露出時間比Rexp を基に、入力画像に対して、明るさを調整する明るさ補正部62とで構成される。
【0077】
このように構成された露出時間比算出部61は、入力画像a、bのうちの1枚(ここでは画像aとする)を、基準画像として、そのまま画像表示部44に表示する。また画像bは、明るさ補正部62で明るさを補正し、画像表示部44に出力して表示される。
【0078】
前記露出時間比設定部63は、ユーザが露出時間比Rexp を調整できるように、例えば、後述する画像表示部44の表示画面上に仮想的な調整つまみを表示する機構を備えている。ユーザが露出時間比Rexp を調整した結果は、直ちに明るさ補正部62にフィードバックされ、調整後の露出時間比Rexp で補正した画像が画像表示部44で表示される。
【0079】
図16は、明るさ補正部62での処理を示した図である。補正前の入力画像信号Sin に対して補正後信号Sout は、
Sout =Rexp ・Sin (4)
と変換される。このとき、Rexp >1.0ならば画像は明るくなり、 Rexp <1.0ならば、画像は暗くなる。
【0080】
図17は、画像表示部44の表示例である。
この図17に示す基準画像の画像aにおいては、室内(テーブルや花等が有るところ)は適正な露出であり、窓の外(木や山が見えるところ)はオーバーな露出である状態を表している。また、調整画像の画像bにおいては、前記窓の外は、適正な露出であり、前記室内は、アンダーな露出である状態を表している。
【0081】
画像aは、基準画像として表示され、画面上に表示されるつまみを調整して、画像bの明るさを補正する。そして、ユーザは、画像b全体の明るさが基準画像(画像a)と同じくらいになった時点で、「OK」キーで、調整終了を指示する。このように設定された露出時間比Rexp が画像合成部6に出力され、広ダイナミックレンジ化処理が行われる。
【0082】
本実施形態によれば、画像を見て確認しつつ、露出時間比Rexp を求めることができるため、画像を入力するための入力機器に所望する機器を使用することができ、また、撮影したときに露出時間を記録する必要が無くなり、容易に広ダイナミックレンジ化処理を行うことができる。
【0083】
また、本実施形態では、2枚の画像による露出時間比を補正するパラメータとして調整した例で説明したが、これに限定されるものではなく、3枚以上の画像の露出時間比を補正パラメータとした場合にも勿論可能である。さらに、画像のうちの1つの画像を基準として、他方の画像のみを明るさ補正するように説明したが、勿論、双方の画像の明るさを補正して、中間的な明るさの画像を生成しても構わない。この時の露出時間比は、それぞれの画像において、図16に示した傾きの比となる。
【0084】
さらに、露出の異なる複数の明暗画像を撮影する方法として、絞りを変えて撮影してもよいし、減光フィルタの透過率によって制御することも可能である。つまり、広ダイナミックレンジ化処理に必要な補正パラメータとしては、複数の画像間の露出比を示すものであればよく、このような露出比を示すものとして、上述の実施形態に示した露出時間比や、絞り比、減光フィルタの透過率比を補正パラメータとして利用することが可能である。
【0085】
また、全実施形態において、デジタルカメラで撮影をするように記述しているが、従来の銀塩カメラで撮影したフィルムをスキャナでデジタル化した画像や、ビデオカメラやデジタルビデオカメラで撮影した画像から、画像取込ボード等を介して取り込んだ画像においても、同様の処理が可能である。各実施形態における画像表示装置44においても、繋ぎ合わされた後の画像を出力するモニタ7とを兼用させることができる。
【0086】
さらに、前述した各実施形態を、それぞれ組み合わせて構成することも可能である。特に補正パラメータ記憶部42は、上記第1〜第3の実施形態に記載される構成においては、光学系の特性を知っていれば、記憶することもできるし、第4、第5の実施形態に組み入れて、パラメータを記憶することで調整のデフォルト値とし、ユーザが調整をする際の参考にすることもできる。
【0087】
以上の実施形態について説明したが、本明細書には以下のような発明も含まれている。
1.1つの構図を分割し、隣接する箇所に互いに同じ被写体像が存在するオーバーラップ領域を有する、複数の画像として入力する画像入力手段と、
前記複数の画像の少なくとも各オーバーラップ領域内に生じた画像の歪みまたは画像の差異を補正するのに必要な補正パラメータを設定する補正パラメータ設定手段と、
前記設定された補正パラメータに従って、前記複数の画像の少なくともオーバーラップ領域内に生じた画像歪みまたは画像の差異が無くなるように、前記複数の画像のうち、少なくとも1枚の画像に対して補正を行う画像補正手段と、
前記画像補正手段で補正された複数の画像を、前記オーバーラップ領域上で重ねて、順次繋ぎ合わせることで、前記1つの構図を復元する画像合成手段と、
前記画像入力手段により入力された複数の画像、または、前記画像補正手段により補正された画像のうち少なくとも1枚の画像を表示する画像表示手段と、を具備することを特徴とする画像処理装置。
【0088】
第1、2実施形態に対応する。この画像処理装置により、画像補正手段で補正された画像を画像表示手段に表示して確認できるため、必要な補正パラメータを知らなくても効果的に画像を補正することができ、画像合成手段により正確に繋ぎ合わせた画像を得ることができる。
【0089】
2.1つの構図を異なる露出で撮影した複数の画像として入力する画像入力手段と、
前記露出が異なる複数の画像のうち、少なくとも1枚の画像の明るさを補正するのに必要な補正パラメータを設定する補正パラメータ設定手段と、
前記設定された補正パラメータに従って、前記複数の画像のうち、少なくとも1枚の画像に対して明るさを補正する画像補正手段と、
前記画像補正手段により補正された画像のうち少なくとも1枚の画像を表示する画像補正手段と、
前記複数の入力画像と前記設定された補正パラメータに基づいて、前記1つの構図が前記画像入力手段で入力されたときの入射光量を推定し、前記画像補正手段で明るさが補正された複数の画像を、前記画像表示手段の表示可能範囲内に収まるように変換して合成する画像合成手段と、
を備することを特徴とする画像処理装置。
【0090】
第5実施形態に対応する。この画像処理装置では、画像補正手段で補正された画像を画像表示手段に表示して補正パラメータを設定し、この補正パラメータに基づいて画像表示手段の表示可能範囲に収まるように画像合成手段により明るさが補正された画像が得られる。
【0091】
3.前記画像補正手段は、前記画像表示手段に表示される複数の画像間における画像の明るさの違いに応じて、前記補正パラメータを変化させることにより画像を補正するものであることを特徴とする前記(1)項または(2)項に記載の画像処理装置。
【0092】
第5実施形態に対応する。この画像処理装置では、画像表示手段上で補正結果を確認しながら明るさを補正することにより、予め露出時間比・絞り比等を記録することなく画像から広ダイナミックレンジ化処理に必要なパラメータを得ることができる。
【0093】
4.前記画像補正手段は、前記画像表示手段に表示される1枚の画像の歪曲収差または複数の画像間における歪曲収差の違いに応じて、前記補正パラメータを変化させることにより画像を補正するものであることを特徴とする前記(1)項、(3)項のいずれかに記載の画像処理装置。
【0094】
第1、2実施形態に対応する。この画像処理装置では、画像表示手段上で補正結果を確認をしながら歪曲収差を補正するため、隣接画像間のズレ、回転を正確に求めることができる。
【0095】
5.前記画像補正手段は、前記画像表示手段に表示される複数の画像間における画像の倍率の違いに応じて、前記補正パラメータを変化させることにより、画像を補正するものであることを特徴とする前記(1)項に記載の画像処理装置。
【0096】
第4実施形態に対応する。この画像処理装置では、画像表示手段上で補正結果を確認をしながら倍率の違いを補正することで、正確な画像の繋ぎ合わせが可能になる。
【0097】
6.前記画像補正手段は、前記画像表示手段に表示される複数の画像間における画像の色情報の違いに応じて、前記補正パラメータを変化させることにより画像を補正するものであることを特徴とする前記(1)項に記載の画像処理装置。
【0098】
第4実施形態に対応する。この画像処理装置では、画像表示手段上で補正結果を確認をしながら隣接する画像間の色の違いを補正することで、繋ぎ合わせた画像は非常に自然な画像になる。
【0099】
7.前記色情報は、色相、彩度、明度の少なくとも1つであることを特徴とする前記(6)項に記載の画像処理装置。
第4実施形態に対応する。この画像処理装置では、画像表示手段上で補正結果を確認をしながら隣接する画像間の色の違いを補正することで、繋ぎ合わせた画像は非常に自然な画像になる。
【0100】
8.前記色情報は、ホワイトバランスを調整するためのR、G、B値の少なくとも一つであることを特徴とする前記(6)項に記載の画像処理装置。
第4実施形態に対応する。この画像処理装置では、画像表示手段上で補正結果を確認をしながら隣接する画像間の色の違いを補正することで、繋ぎ合わせた画像は非常に自然な画像になる。
【0101】
9.前記画像補正手段は、前記画像表示手段に表示される一枚の画像における画像の周辺減光または複数の画像間における画像の周辺減光の違いに応じて、前記補正パラメータを変化させることにより画像を補正するものであることを特徴とする前記(1)項、(3)項のいずれかに記載の画像処理装置。
【0102】
第3実施形態に対応する。この画像処理装置では、画像表示手段上で補正結果を確認をしながら周辺減光を補正するため、繋ぎ合わせた画像は非常に自然な画像になる。
【0103】
10.前記画像補正手段は、前記画像表示手段に表示される複数の画像間における画像の明るさの違いに応じて、前記補正パラメータとして前記複数の画像間における露出比を変化させることにより画像を補正するものであることを特徴とする前記(3)記載の画像処理装置。
【0104】
第5実施形態に対応する。この画像処理装置では、画像表示手段上で補正結果を確認しながら、広ダイナミックレンジ化処理に必要なパラメータとしての複数の画像間における露出比(露出時間比・絞り比・透過率比等)を変化させることにより、画像の明るさを補正し、広ダイナミックレンジ化された合成画像を得ることができる。
【0105】
11.前記補正された画像における前記補正パラメータと、その補正画像若しくは、その画像を撮影した撮影手段の識別名とを関連づけて記憶する補正パラメータ記憶手段を有し、
前記補正パラメータ設定手段は、前記補正パラメータ記憶手段に記憶された補正パラメータより所望の補正パラメータを選択して設定することを特徴とする前記(1)、(3)項のいずれかに記載の画像処理装置。
【0106】
第1、2、3実施形態に対応する。この画像処理装置では、一度補正に用いたパラメータ値を補正パラメータ記憶手段に保存しておき、必要な値を補正パラメータ記憶手段から選択して利用することで、各画像ごとに改めて初めから補正する必要がない。
【0107】
【発明の効果】
以上詳述したように本発明によれば、露出時間・ホワイトバランス等撮影条件が、制御且つ記録できるような高価な撮影機材を用いる必要がなく、ユーザが所有する任意の撮影機材や安価な撮影機材で撮影した画像のみから広ダイナッミクレンジ化した画像を得ることができる画像処理装置を提供することができる。
【図面の簡単な説明】
【図1】本発明による第1の実施形態としての画像処理装置の概略的な構成を示す図である。
【図2】図1に示した画像補正処理部の詳細な構成を示す図である。
【図3】画像表示部上に表示される画像への処理指示及び画像の補正状態を示す図である。
【図4】補正パラメータ記憶部に記憶されるファイルの形式の一例を示す図である。
【図5】歪曲収差のある光学系により撮影された画像の合成について説明するための図である。
【図6】本発明による第2の実施形態としての画像処理装置の概略的な構成を示す図である。
【図7】図6に示した画像補正処理部の構成例を示す図である。
【図8】画像補正処理部の画像表示部に表示される合成結果の一例を示す図である。
【図9】第3の実施形態としての画像処理装置における画像補正処理部の構成例を示す図である。
【図10】周辺減光について説明するための画像中心からの距離と信号値の関係を示す図である。
【図11】第4の実施形態としての画像処理装置における画像補正処理部の構成例を示す図である。
【図12】画像補正処理部の画像表示部に表示される色調補を行うための表示例を示す図である。
【図13】画像拡大縮小部と補正パラメータ設定部を備える画像補正処理部の構成例を示す図である。
【図14】本発明による第5の実施形態としての画像処理装置の概略的な構成を示す図である。
【図15】図14に示した露出時間比算出部の構成例を示す図である。
【図16】明るさ補正部における補正前の入力画像信号と補正後信号との関係を示す図である。
【図17】明るさ補正に関する画像表示部の表示例を示す図である。
【図18】従来の画像処理装置の一構成例を示す図である。
【図19】図18に示した画像合成部の一構成例を示す図である。
【図20】画像を繋ぎ合わせた広角画像合成における画像の重なり具合について説明するための図である。
【図21】長時間露出と短時間露出の信号を加算した信号の特性を示す図である。
【図22】図18に示した画像合成部の一構成例を示す図である。
【図23】歪曲収差の特性の一例を示す図である。
【符号の説明】
6…画像合成部
7…モニタ
8…プリンタ
9…記録媒体
31…デジタルスチルカメラ
32…メモリカード
33…カードリーダ
34…画像処理部
35…画像データ再生部
36…画像補正部
37…信号切り替え部
41…収差補正処理部
42…補正パラメータ記憶部
43…補正パラメータ設定部
44…画像表示部
Claims (4)
- 1つの構図において、異なる露出条件で撮影して得られた複数の画像を入力する画像入力手段と、
前記複数の入力画像のうちの少なくとも1枚の画像を表示する画像表示手段と、
前記露出条件が異なる複数の入力画像のうち、少なくとも1枚の画像の明るさを補正するのに必要な補正パラメータを設定する補正パラメータ設定手段と、
前記画像表示手段に表示される複数の画像間における画像の明るさの差異に応じて、前記補正パラメータ設定手段により前記補正パラメータを変化させて前記少なくとも1枚の画像の明るさを補正することにより、前記補正パラメータを再設定させる画像補正手段と、
前記複数の入力画像を加算して階調範囲の広い加算画像を得て、前記画像補正手段により再設定された補正パラメータに基づいて、前記得られた加算画像の信号値から前記1つの構図が前記画像入力手段で入力されたときの入射光量を推定し、前記加算画像を、前記画像表示手段で表示可能な階調範囲内に収まるように変換する画像生成手段と、を具備することを特徴とする画像処理装置。 - 1つの構図において、異なる露出条件で撮影して得られた複数の入力画像を入力する画像入力手段と、
前記複数の入力画像のうちの少なくとも1枚の画像を表示する画像表示手段と、
前記複数の入力画像間の画像の明るさの差異を補正するのに必要な前記複数の入力画像の露出時間による露出時間比を設定する露出時間比設定手段と、
前記画像表示手段に表示される複数の画像間における画像の明るさの差異に応じて、前記露出時間比設定手段により前記露出時間比を変化させて、前記少なくとも1枚の画像の明るさを補正することにより、露出時間比を再設定する画像補正手段と、
前記複数の入力画像を加算して階調範囲の広い加算画像を得て、前記画像補正手段により再設定された露出時間比に基づいて、前記得られた加算画像の信号値から前記1つの構図が前記入力手段で入力されたときの入射光量を推定し、前記加算画像を、前記画像表示手段で表示可能な階調範囲内に収まるように変換する画像生成手段と、を具備することを特徴とする画像処理装置。 - 前記補正パラメータ設定手段は、前記画像表示手段の表示画面上に表示された仮想の調整つまみを操作することにより前記補正パラメータを調整可能であることを特徴とする請求項1に記載の画像処理装置。
- 1つの構図において、異なる露出条件で撮影して得られた複数の画像を入力する画像入力工程と、
前記複数の入力画像のうちの少なくとも1枚の画像を表示する画像表示工程と、
前記露出条件が異なる複数の入力画像のうち、少なくとも1枚の画像の明るさを補正するのに必要な補正パラメータを設定する補正パラメータ設定工程と、
前記画像表示工程に表示される複数の画像間における画像の明るさの差異に応じて、前記補正パラメータ設定工程により前記補正パラメータを変化させて前記少なくとも1枚の画像の明るさを補正することにより、前記補正パラメータを再設定する画像補正工程と、
前記複数の入力画像を加算して階調範囲の広い加算画像を得て、前記画像補正工程により再設定された補正パラメータに基づいて、前記得られた加算画像の信号値から前記1つの構図が前記画像入力工程で入力されたときの入射光量を推定し、前記加算画像を、前記画像表示工程で表示可能な階調範囲内に収まるように変換する画像生成工程と、を具備することを特徴とする画像処理方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP31226096A JP3974964B2 (ja) | 1996-11-08 | 1996-11-22 | 画像処理装置 |
US08/964,180 US6995790B2 (en) | 1996-11-08 | 1997-11-04 | Image processing apparatus for joining a plurality of images |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP8-296750 | 1996-11-08 | ||
JP29675096 | 1996-11-08 | ||
JP31226096A JP3974964B2 (ja) | 1996-11-08 | 1996-11-22 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH10187929A JPH10187929A (ja) | 1998-07-21 |
JP3974964B2 true JP3974964B2 (ja) | 2007-09-12 |
Family
ID=26560827
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP31226096A Expired - Fee Related JP3974964B2 (ja) | 1996-11-08 | 1996-11-22 | 画像処理装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US6995790B2 (ja) |
JP (1) | JP3974964B2 (ja) |
Families Citing this family (81)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6786420B1 (en) | 1997-07-15 | 2004-09-07 | Silverbrook Research Pty. Ltd. | Data distribution mechanism in the form of ink dots on cards |
US6618117B2 (en) | 1997-07-12 | 2003-09-09 | Silverbrook Research Pty Ltd | Image sensing apparatus including a microcontroller |
US6879341B1 (en) | 1997-07-15 | 2005-04-12 | Silverbrook Research Pty Ltd | Digital camera system containing a VLIW vector processor |
US6624848B1 (en) | 1997-07-15 | 2003-09-23 | Silverbrook Research Pty Ltd | Cascading image modification using multiple digital cameras incorporating image processing |
US6690419B1 (en) | 1997-07-15 | 2004-02-10 | Silverbrook Research Pty Ltd | Utilising eye detection methods for image processing in a digital image camera |
US6948794B2 (en) | 1997-07-15 | 2005-09-27 | Silverbrook Reserach Pty Ltd | Printhead re-capping assembly for a print and demand digital camera system |
US7110024B1 (en) | 1997-07-15 | 2006-09-19 | Silverbrook Research Pty Ltd | Digital camera system having motion deblurring means |
WO1999067949A1 (fr) * | 1998-06-22 | 1999-12-29 | Fuji Photo Film Co., Ltd. | Imageur et procede |
JP4282113B2 (ja) * | 1998-07-24 | 2009-06-17 | オリンパス株式会社 | 撮像装置および撮像方法、並びに、撮像プログラムを記録した記録媒体 |
JP2000083157A (ja) * | 1998-09-07 | 2000-03-21 | Fuji Photo Film Co Ltd | 画像処理方法および画像処理装置 |
AUPP702098A0 (en) | 1998-11-09 | 1998-12-03 | Silverbrook Research Pty Ltd | Image creation method and apparatus (ART73) |
JP3000527B1 (ja) * | 1998-09-16 | 2000-01-17 | 株式会社アトラス | 画像プリント供給装置 |
US6930710B1 (en) * | 1998-11-13 | 2005-08-16 | Cnh Canada, Ltd. | Method of and apparatus for processing a video image |
WO2000040037A1 (fr) * | 1998-12-26 | 2000-07-06 | Sony Corporation | Dispositif de traitement de signaux video et son procede |
JP3449937B2 (ja) * | 1999-01-14 | 2003-09-22 | 日本電信電話株式会社 | パノラマ画像作成方法及びパノラマ画像を用いた周囲状況伝達方法並びにこれらの方法を記録した記録媒体 |
JP3799861B2 (ja) * | 1999-02-24 | 2006-07-19 | 株式会社日立製作所 | 画像合成装置、画像合成方法を実行させるプログラムが記録された記録媒体 |
US7015966B1 (en) * | 1999-03-15 | 2006-03-21 | Canon Kabushiki Kaisha | Reducing discontinuities in segmented imaging sensors |
AUPQ056099A0 (en) | 1999-05-25 | 1999-06-17 | Silverbrook Research Pty Ltd | A method and apparatus (pprint01) |
JP4169462B2 (ja) * | 1999-08-26 | 2008-10-22 | 株式会社リコー | 画像処理方法及び装置、デジタルカメラ、画像処理システム、並びに、画像処理プログラムを記録した記録媒体 |
US7542070B2 (en) | 2000-01-17 | 2009-06-02 | Fujifilm Corporation | Image processing apparatus, and photographing system for receiving and creating processing information |
US8407595B1 (en) * | 2000-02-11 | 2013-03-26 | Sony Corporation | Imaging service for automating the display of images |
JP2001274973A (ja) * | 2000-03-24 | 2001-10-05 | Sanyo Electric Co Ltd | 顕微鏡画像合成装置、顕微鏡画像合成方法、顕微鏡画像合成処理プログラムを記録したコンピュータ読み取り可能な記録媒体 |
US7313289B2 (en) * | 2000-08-30 | 2007-12-25 | Ricoh Company, Ltd. | Image processing method and apparatus and computer-readable storage medium using improved distortion correction |
JP3539394B2 (ja) * | 2001-03-26 | 2004-07-07 | ミノルタ株式会社 | 画像処理装置、プログラムおよび記録媒体 |
JP3297040B1 (ja) | 2001-04-24 | 2002-07-02 | 松下電器産業株式会社 | 車載カメラの画像合成表示方法及びその装置 |
EP1491038A2 (en) * | 2001-12-26 | 2004-12-29 | YEDA RESEARCH AND DEVELOPMENT CO., Ltd. | A system and method for increasing space or time resolution in video |
JP3971246B2 (ja) * | 2002-06-03 | 2007-09-05 | 富士フイルム株式会社 | デジタル撮影装置 |
JP4048907B2 (ja) | 2002-10-15 | 2008-02-20 | セイコーエプソン株式会社 | 複数の画像データのパノラマ合成 |
CN101431685B (zh) * | 2003-06-23 | 2011-05-25 | 索尼株式会社 | 处理图像的方法和设备 |
SE0302065D0 (sv) * | 2003-07-14 | 2003-07-14 | Stefan Carlsson | Video - method and apparatus |
US7596286B2 (en) * | 2003-08-06 | 2009-09-29 | Sony Corporation | Image processing apparatus, image processing system, imaging apparatus and image processing method |
JP4180083B2 (ja) * | 2003-09-26 | 2008-11-12 | シャープ株式会社 | パノラマ画像作成装置及びパノラマ画像撮影装置 |
US8804028B2 (en) * | 2004-01-30 | 2014-08-12 | Hewlett-Packard Development Company, L.P. | Digital image production method and apparatus |
JP4617085B2 (ja) * | 2004-02-16 | 2011-01-19 | キヤノン株式会社 | 画像表示装置および画像表示方法 |
JP4338551B2 (ja) * | 2004-03-04 | 2009-10-07 | 富士フイルム株式会社 | 画像再生方法、画像再生装置及び画像再生プログラム |
JP4632721B2 (ja) | 2004-03-18 | 2011-02-16 | メガビジョン株式会社 | 処理装置及びガンマ値調整プログラム |
JP4223420B2 (ja) | 2004-03-05 | 2009-02-12 | メガビジョン株式会社 | 撮影装置 |
DE602004029133D1 (de) * | 2004-03-05 | 2010-10-28 | Mega Vision Corp | Verarbeitungsvorrichtung und Computerprogramm zur Gamma-Korrektur |
JP4566591B2 (ja) * | 2004-03-19 | 2010-10-20 | キヤノン株式会社 | 画像変形推定方法および画像変形推定装置 |
US7463296B2 (en) * | 2004-04-01 | 2008-12-09 | Microsoft Corporation | Digital cameras with luminance correction |
WO2006022630A1 (en) | 2004-07-26 | 2006-03-02 | Silicon Optix, Inc. | Panoramic vision system and method |
US20070103544A1 (en) * | 2004-08-26 | 2007-05-10 | Naofumi Nakazawa | Panorama image creation device and panorama image imaging device |
JP4763469B2 (ja) * | 2005-03-07 | 2011-08-31 | 富士フイルム株式会社 | 固体撮像装置および画像入力装置、ならびにその画像補正方法 |
US10341558B2 (en) * | 2005-06-03 | 2019-07-02 | Craig P. Mowry | System and apparatus for increasing quality and efficiency of film capture and methods of use thereof |
US11632498B1 (en) * | 2005-06-03 | 2023-04-18 | Craig P. Mowry | Multi-dimensional imaging system and method |
US20070127909A1 (en) * | 2005-08-25 | 2007-06-07 | Craig Mowry | System and apparatus for increasing quality and efficiency of film capture and methods of use thereof |
JP4687265B2 (ja) * | 2005-06-14 | 2011-05-25 | 富士ゼロックス株式会社 | 画像分析装置 |
US7454136B2 (en) * | 2005-07-28 | 2008-11-18 | Mitsubishi Electric Research Laboratories, Inc. | Method and apparatus for acquiring HDR flash images |
JP2007096904A (ja) * | 2005-09-29 | 2007-04-12 | Fujifilm Corp | プリント注文受付装置及び方法並びにインデックス画像作成装置及び方法 |
JP4297111B2 (ja) * | 2005-12-14 | 2009-07-15 | ソニー株式会社 | 撮像装置、画像処理方法及びそのプログラム |
JP4706466B2 (ja) * | 2005-12-16 | 2011-06-22 | 株式会社日立製作所 | 撮像装置 |
JP5074777B2 (ja) * | 2006-05-22 | 2012-11-14 | キヤノン株式会社 | 撮像機能付表示装置、画像処理装置、画像処理方法、および、画像表示システム |
JP4345829B2 (ja) * | 2007-03-09 | 2009-10-14 | ソニー株式会社 | 画像表示システム、画像表示装置、画像表示方法およびプログラム |
JP4714174B2 (ja) * | 2007-03-27 | 2011-06-29 | 富士フイルム株式会社 | 撮像装置 |
KR101014572B1 (ko) * | 2007-08-27 | 2011-02-16 | 주식회사 코아로직 | 영상 왜곡 보정 방법 및 그 보정 방법을 채용한 영상처리장치 |
JP4940116B2 (ja) * | 2007-12-06 | 2012-05-30 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
JP5187139B2 (ja) * | 2008-10-30 | 2013-04-24 | セイコーエプソン株式会社 | 画像処理装置およびプログラム |
US20100259639A1 (en) * | 2009-04-13 | 2010-10-14 | Qualcomm Incorporated | Automatic backlight detection |
JP4709309B2 (ja) * | 2009-10-20 | 2011-06-22 | 株式会社パスコ | 路面画像撮影・編集装置及び路面画像撮影・編集プログラム |
US9237294B2 (en) | 2010-03-05 | 2016-01-12 | Sony Corporation | Apparatus and method for replacing a broadcasted advertisement based on both heuristic information and attempts in altering the playback of the advertisement |
US9832528B2 (en) | 2010-10-21 | 2017-11-28 | Sony Corporation | System and method for merging network-based content with broadcasted programming content |
US8374428B2 (en) * | 2010-12-05 | 2013-02-12 | Microsoft Corporation | Color balancing for partially overlapping images |
US9600863B2 (en) * | 2012-02-13 | 2017-03-21 | Omnivision Technologies, Inc. | Method for combining images |
CN102663716A (zh) * | 2012-03-12 | 2012-09-12 | 武汉大学 | 适用于影像有效范围为凸多边形的接缝线网络生成方法 |
JP5950678B2 (ja) * | 2012-04-27 | 2016-07-13 | キヤノン株式会社 | 撮像装置、制御方法、及びプログラム |
CN102867297B (zh) * | 2012-08-31 | 2015-08-19 | 天津大学 | 一种低照度图像采集的数字化处理方法 |
JP5996462B2 (ja) * | 2013-03-13 | 2016-09-21 | オリンパス株式会社 | 画像処理装置、顕微鏡システム及び画像処理方法 |
JP2015032890A (ja) * | 2013-07-31 | 2015-02-16 | 三星電子株式会社Samsung Electronics Co.,Ltd. | 撮像装置及び現像方法 |
JP6223135B2 (ja) * | 2013-11-14 | 2017-11-01 | キヤノン株式会社 | 撮像装置およびその制御方法 |
US9396571B2 (en) | 2014-02-10 | 2016-07-19 | International Business Machines Corporation | Simplified lighting compositing |
US9262801B2 (en) | 2014-04-01 | 2016-02-16 | Gopro, Inc. | Image taping in a multi-camera array |
JP2016001781A (ja) * | 2014-06-11 | 2016-01-07 | ソニー株式会社 | 情報処理装置、情報処理方法、プログラム、及び画像表示装置 |
CN105812649B (zh) * | 2014-12-31 | 2019-03-29 | 联想(北京)有限公司 | 一种摄像方法和装置 |
EP3076657B1 (en) | 2015-04-02 | 2017-05-24 | Axis AB | Method for determination of focal length for a zoom lens |
US9563957B1 (en) | 2015-07-02 | 2017-02-07 | Yesvideo, Inc. | 2D/3D image scanning and compositing |
JP6746892B2 (ja) * | 2015-09-30 | 2020-08-26 | ヤマハ株式会社 | 画像処理装置、画像処理方法およびプログラム |
KR102517104B1 (ko) * | 2016-02-17 | 2023-04-04 | 삼성전자주식회사 | 가상 현실 시스템에서 이미지 처리 방법 및 장치 |
US10085006B2 (en) * | 2016-09-08 | 2018-09-25 | Samsung Electronics Co., Ltd. | Three hundred sixty degree video stitching |
US10706512B2 (en) * | 2017-03-07 | 2020-07-07 | Adobe Inc. | Preserving color in image brightness adjustment for exposure fusion |
JP6790282B2 (ja) * | 2017-09-14 | 2020-11-25 | 株式会社日立ハイテク | 荷電粒子顕微鏡装置および広視野画像生成方法 |
CN112567727B (zh) * | 2018-08-20 | 2023-04-07 | 索尼半导体解决方案公司 | 图像处理设备和图像处理系统 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4926247A (en) | 1986-10-15 | 1990-05-15 | Olympus Optical Co., Ltd. | Color imaging apparatus including a means for electronically non-linearly expanding and compressing dynamic range of an image signal |
JP2710317B2 (ja) | 1986-10-15 | 1998-02-10 | オリンパス光学工業株式会社 | カラー撮像装置 |
GB2256989B (en) * | 1991-06-21 | 1995-02-08 | Sony Broadcast & Communication | Video image capture apparatus |
JP3791696B2 (ja) | 1992-04-09 | 2006-06-28 | オリンパス株式会社 | 画像表示装置 |
JP3335413B2 (ja) | 1992-04-14 | 2002-10-15 | オリンパス光学工業株式会社 | 電子カメラ |
JP3192875B2 (ja) * | 1994-06-30 | 2001-07-30 | キヤノン株式会社 | 画像合成方法および画像合成装置 |
JPH0832847A (ja) * | 1994-07-13 | 1996-02-02 | Fuji Photo Film Co Ltd | 電子スチル・カメラおよびその制御方法 |
JPH08116490A (ja) * | 1994-10-14 | 1996-05-07 | Olympus Optical Co Ltd | 画像処理装置 |
JPH08256295A (ja) * | 1994-12-21 | 1996-10-01 | Olympus Optical Co Ltd | 画像処理装置 |
US5828793A (en) * | 1996-05-06 | 1998-10-27 | Massachusetts Institute Of Technology | Method and apparatus for producing digital images having extended dynamic ranges |
-
1996
- 1996-11-22 JP JP31226096A patent/JP3974964B2/ja not_active Expired - Fee Related
-
1997
- 1997-11-04 US US08/964,180 patent/US6995790B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH10187929A (ja) | 1998-07-21 |
US20030133019A1 (en) | 2003-07-17 |
US6995790B2 (en) | 2006-02-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3974964B2 (ja) | 画像処理装置 | |
US6995793B1 (en) | Video tap for a digital motion camera that simulates the look of post processing | |
US20140022415A1 (en) | Imaging apparatus | |
JP5300756B2 (ja) | 撮像装置及び画像処理方法 | |
JP2010020758A (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
JP2006340120A (ja) | 撮像装置、撮像結果の処理方法、画像処理装置、撮像結果の処理方法のプログラム、撮像結果の処理方法のプログラムを記録した記録媒体及び撮像結果の処理システム | |
JP6624889B2 (ja) | 映像処理装置、映像処理方法、及び映像処理プログラム | |
JP2005051776A (ja) | ディジタルカメラ画像テンプレートガイド装置及び方法 | |
JP3926947B2 (ja) | 画像データ形成装置および画像データ処理方法 | |
JP5457845B2 (ja) | 色特性補正装置およびカメラ | |
US20100141823A1 (en) | Image Processing Apparatus And Electronic Appliance | |
JPH02127877A (ja) | 魚眼レンズを備えた電子スチルカメラ | |
JP6529533B2 (ja) | 撮像装置、撮像装置の制御方法、及び、プログラム | |
JP2002300372A (ja) | 画像処理装置、画像処理プログラムが記録された記録媒体、および、画像再生装置 | |
JPH11242737A (ja) | 画像処理方法及び装置並びに情報記録媒体 | |
JP3984346B2 (ja) | 撮像装置及び画像合成方法 | |
JP2007096588A (ja) | 画像撮影装置および画像表示方法 | |
JP2002305684A (ja) | 撮像システム及びプログラム | |
JP2007334558A (ja) | 画像処理装置および方法、並びにプログラム | |
JPH07131718A (ja) | 画像合成装置 | |
JP4406461B2 (ja) | 撮像装置 | |
JP2007019726A (ja) | 撮像装置 | |
JP3503655B2 (ja) | 画像合成装置 | |
JP3332942B2 (ja) | 電子スチルカメラ | |
JP6210772B2 (ja) | 情報処理装置、撮像装置、制御方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040319 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060718 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060914 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20061128 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070124 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20070306 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070507 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20070517 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070612 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070618 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100622 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110622 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120622 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120622 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130622 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |