JPH10187929A - 画像処理装置 - Google Patents

画像処理装置

Info

Publication number
JPH10187929A
JPH10187929A JP8312260A JP31226096A JPH10187929A JP H10187929 A JPH10187929 A JP H10187929A JP 8312260 A JP8312260 A JP 8312260A JP 31226096 A JP31226096 A JP 31226096A JP H10187929 A JPH10187929 A JP H10187929A
Authority
JP
Japan
Prior art keywords
image
images
correction
unit
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP8312260A
Other languages
English (en)
Other versions
JP3974964B2 (ja
Inventor
Masaki Higure
正樹 日暮
Yasuhiro Komiya
康宏 小宮
Okaji I
崗路 井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Optical Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Optical Co Ltd filed Critical Olympus Optical Co Ltd
Priority to JP31226096A priority Critical patent/JP3974964B2/ja
Priority to US08/964,180 priority patent/US6995790B2/en
Publication of JPH10187929A publication Critical patent/JPH10187929A/ja
Application granted granted Critical
Publication of JP3974964B2 publication Critical patent/JP3974964B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/14Transformations for image registration, e.g. adjusting or mapping for alignment of images
    • G06T3/153Transformations for image registration, e.g. adjusting or mapping for alignment of images using elastic snapping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • H04N1/3876Recombination of partial images to recreate the original image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • H04N1/4072Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on the contents of the original
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3247Data linking a set of images to one another, e.g. sequence, burst or continuous capture mode

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)

Abstract

(57)【要約】 【課題】従来の技術では、歪曲収差補正に必要な撮影条
件や光学系のパラメータを予め知らなければ設定できな
いため、ユーザが所有する任意の撮影機材を用いて簡単
に高解像・広画角画像・パノラマ画像を作成することは
難しい。 【解決手段】本発明は、デジタルカメラ31等の撮影機
材で撮影した画像や撮影条件等の画像データを画像表示
部44で補正前の画像と補正後の画像として表示し、以
前に未使用のカメラからの画像に対しては、補正前後の
画像を見ながら収差や色調等を補正を施し画像合成し
て、補正に用いたパラメータを撮影機材と関連付けて記
憶し、以前に使用したことがあるカメラからの画像につ
いては、記憶されたパラメータを読み出して補正を施
し、画像合成する画像処理部34と合成された画像及び
画像データを表示するモニタ7、印刷出力するプリンタ
8及び記録媒体9に出力する画処理装置である。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、被写体を複数に分
割して撮影した複数の画像または、異なる露出で撮影し
た複数の画像を合成する画像処理装置に係り、特に合成
による広角画像及び明るさを変化させて画像合成する画
像処理装置に関する。
【0002】
【従来の技術】近年、パーソナルコンピュータ(以下、
PCと称する)は、製造技術の向上に伴い、高性能化及
び低価格化が進み、企業、教育、家庭などで広く普及し
つつある。
【0003】このようなPCへの画像取り込み装置とし
ては、従来のカメラにより撮影された銀塩フィルムから
光学的に画像を取り出し、画像信号に変換して取り込ん
でいる。
【0004】また、カメラの他に、ビデオ信号として画
像を撮影するビデオカメラ等の映像情報機器がいろいろ
な場面で利用されている。特に、デジタルスチルカメラ
(以下、デジタルカメラと称する)は、銀塩フィルムを
使用せず、デジタル信号により画像を撮影・記録し、そ
のデジタル信号で直接画像として取り込み装置に入力で
き、ディスプレイやプリンタに出力するため、現像処理
が不必要であり、且つ消去や編集が容易である。これら
の理由に加え、インターネットユーザの増加、及びデジ
タルカメラ自体の低価格が進んだことから、PCユーザ
を中心にデジタルカメラの需要が急速に拡がっている。
【0005】しかし、このデジタルカメラは、光電変換
を利用したCCD等の固体撮像素子によって光電変換に
より被写体像を画像信号として撮像するが、銀塩フィル
ムに比較して、解像度やダイナミックレンジが劣るた
め、高解像度化・広ダイナミックレンジ化の技術が強く
望まれている。
【0006】この高解像度化する方法の1つとして、撮
像素子の画素数を増やす方法が考えられる。しかし、一
般に固体撮像素子のコストは、画素数の増大に従って急
速に上昇することが知られている。
【0007】そこで、本出願人は、例えば、特開平6−
141246号公報に記載されるような複数の撮像素子
で撮影した画像を合成する技術や、特開平6−1412
28号公報に記載されるようなカメラの移動等で被写体
を分割撮影し、1つの撮像素子により得られた複数の画
像を合成する技術を提案している。
【0008】ところが、通常、撮影した画像は、光学系
による歪曲収差の影響を受けて、像が歪んでしまってい
るため、前述した公報に記載されるような技術で合成し
た場合、重複部分が左右で異なり、合成された被写体が
二重になる問題が生じる。また、重ね合わせの基準とな
る幾つかの点の位置の移動が原因になって、実際には画
像が回転していないにも係わらず、回転したものとして
検出されてしまい、合成が上手くいかなくなるといった
問題が生じる。
【0009】そのため、本出願人は、例えば特開平8−
116490号公報において、処理装置内に幾何学的補
正を施す画像補正手段を設けることで収差の影響を補償
する画像処理装置を提案した。この画像処理装置の構成
例を図18に示す。
【0010】この画像処理装置の画像入力部1a〜1c
は、光学系2、CCD等の撮像部3、A/D 変換部4
とで構成され、それぞれ被写体5の異なる部分(位置)
を重複領域を持たせて、撮像するように配置されてい
る。
【0011】この撮像部3の出力信号は、A/D変換部
4によりデジタル化され、画像補正部17a〜17cに
入力される。前記画像補正部17a〜17cは、さらに
撮影時に記録したフォーカス位置等の撮影条件や光学系
の特性パラメータを読み込んで、画像入力部 1a〜1
cで撮影された画像の歪曲収差等を補正する。
【0012】次に、画像合成部6においては、画像補正
部17a〜17cで補正された画像を入力信号として、
後述する技術で、図20に示すような広角画像に合成さ
れ、モニタ7、プリンタ8、記憶媒体9等に出力され
る。
【0013】前記画像合成部6は、図19に示すような
構成により実現される。この構成において、各画像a、
b、cは、フレームメモリ10にそれぞれ一時的に記憶
され、隣り合う画像(例えば、画像aと画像b)間の平
行移動量S1、回転量R1がずれ検出器11aで求めら
れる。同様に、画像bと画像c間の平行移動量S2、回
転量R2がずれ検出器11bで求められる。
【0014】これらの平行移動量S1、S2、回転量R
1、R2は、フレームメモリ10b、10cから読み出
された画像と共に、補間演算器12a、12bにそれぞ
れ入力され、位置関係を補正した画像が作成される。
【0015】また、係数設定器13では、隣接する画像
が滑らかに接続されるように、図20に示すような各画
像の係数Ca、Cb、Ccを設定する。各画像の画素値
には係数Ca、Cb、Ccが乗算部14で乗じられ、重
複する部分は加算部15で加算される。
【0016】図20は、合成される画像の重なり部分の
処理を説明するための図である。画像aに対して画像b
は、反時計回りに回転している。この回転とオーバーラ
ップ量(平行移動量)をずれ検出器11で算出する。ま
た、画像a、bがオーバーラップする部分は、滑らかに
結合されるように図20に示すような係数Ca、Cb、
Ccを乗算して加え合わせる。このようにして、複数の
画像を合成した高解像度・広画角な画像が画像合成部6
から出力される。
【0017】また、撮像素子の広ダイナミックレンジ化
に関しては、本出願人は、特開昭63−232591号
公報により、露出を変えて撮影した複数の画像を合成し
て、銀塩フィルム並みのダイナミックレンジを持つ画像
を生成する技術を開示している。
【0018】この技術は、画像合成部6を図22に示す
ように構成することで実現できる。図22では、簡単の
ため2枚の画像を合成する例について概念的に説明する
が、3枚以上の合成であっても同様な処理により合成が
可能である。
【0019】2枚の画像a、bは加算器21で加算さ
れ、フレームメモリ10に格納される。線形変換部22
は、フレームメモリ10のデータを読み出し、変換テー
ブルを元に撮影時の入射光のR、G、B値に対応する値
を算出して、マトリクス回路23に入力する。この時の
R、G、B値は、デジタルカメラ等の入力機器のダイ
ナッミクレンジを超えた画像になっている。
【0020】また、変換テーブルは、変換テーブル作成
部27で、2枚の画像の露出時間比Rexp から決められ
る。マトリクス回路23では、R、G、B値から輝度信
号値Yを求める。輝度信号圧縮部24からは、出力装置
に合わせて階調を圧縮した輝度値Y’が出力され、除算
器25で元の輝度値Yとの比Y’/Yが求められる。こ
の比Y’/Yは、線形変換部22の出力 R、G、Bと
乗算器25で乗算され、合成画像結果として、フレーム
メモリ16に格納される。
【0021】ところで、一般に撮像素子の出力する信号
は、図21に示すような長時間露出の例とすると、露出
によっては、ある入射光量以上で飽和して一定になる。
そこで、長時間露出と短時間露出の信号を加算した信号
は、図21で加算信号と示した折れ線のように入射光量
に対して変化する。そこで、変換テーブル作成部27で
は、ある加算信号値Sから入射光量Iを推定するような
テーブルを作成する。
【0022】また、一般に画像値は、0 〜255の2
56階調で表現するため、輝度圧縮部24では、各画素
の輝度Yを、例えば(1)式で圧縮する。 Y’=b・Ya (1) ここで、aは圧縮の形状を決める係数で、bは画像全体
のゲインを決定する係数である。
【0023】露出時間の違う2枚の画像を上記のような
方法で合成すると、銀塩フィルム並みのダイナミックレ
ンジを持ち、暗いところから明るいところまで良好な露
出を持った画像を得ることができる。
【0024】
【発明が解決しようとする課題】しかし前述した特開平
8−116490号公報に記載される従来の技術では、
歪曲収差補正に必要な撮影条件や光学系のパラメータを
予め知らなければ設定できないため、ユーザが所有する
任意の撮影機材を用いて簡単に高解像・広画角画像・パ
ノラマ画像を作成することは難しい。
【0025】図23には、歪曲収差の例を示す。歪曲収
差は、一般にレンズの中心からの距離に応じて生じる幾
何学変形である。歪曲収差が無い光学系を通して、例え
ば、格子状の被写体を撮影すると、図23(a)に示す
ようになる。しかし光学系が歪曲収差を有していると、
例えば、図23(b)に示すように、本来直線で写るべ
き部分が曲がって写ってしまう。このように光学系に歪
曲収差がある場合、図23(c)に示すように、直線L
は、曲線L’のように歪んで結像するため、直線L上の
点Yは、曲線L’上の点Y’に移動する。ここで画像上
のある1点における収差量DRは、 ΔR=A1 ・R3 +A2 ・R5 +… (2) のような多項式で表される。
【0026】ここで、Rは画像中心から点Yまでの距離
である。収差を補正させた画像を作成するには、点Y’
を画像中心Cと点Y’を結ぶ直線上を収差量ΔRだけ移
動すればよい。ところが、係数A1 ,A2 ,…は光学系
の焦点位置によって異なり、係数A1 ,A2 ,…を正確
に知ることは、通常のユーザには困難である。
【0027】また、使用する機材によっても係数A1
2 ,…は異なるため、違う機材を使用する場合は、補
正係数を改めて調整しなくてはならない。さらに、ズー
ム比を変えて撮影すると、隣り合った画像間で大きさが
異なり、互いに重複して撮影しているにも係わらず、正
確に貼合せることができない。
【0028】また、室内など近くの被写体を撮影する場
合には、撮影者が数歩動いた場合でも大きさが変わって
しまう。また、自動的にホワイトバランスが調整される
ような機材の場合には、例えば、 太陽に近い方向を撮影
した場合と、太陽から離れた方向を撮影した場合に、色
合いが大きく異なる場合が考えられる。そのため、前記
の技術で画像を合成した場合、滑らかに色合いが変化す
るものの、全体として不自然な画像になってしまう。
また広ダイナミック化の技術においては、従来技術で説
明したように、加算信号から入射光量を推定するテーブ
ルを作成する必要があるが、図21に示すように、加算
信号の傾きが変化する点Nは、露出時間比Rexp によっ
て変化する。そのため、合成対象の複数の画像の露出時
間比Rexp を予め知っていることが必要とされる。とこ
ろが、市販されているデジタルカメラでは、露出調整は
できても、 その比をユーザが知ることのできない構成に
なっていることが多い。
【0029】そこで本発明では、カメラの収差等の係数
を知らなくても撮影した画像に基づき簡単な操作により
補正して合成できる画像処理装置を提供すること、及
び、撮影した画像のみから効果的に広ダイナミックレン
ジ化画像を作成することが可能な画像処理装置を提供す
ることを目的とする。
【0030】
【課題を解決するための手段】本発明は上記目的を達成
するために、1つの構図を分割し、隣接する箇所に互い
に同じ被写体像が存在するオーバーラップ領域を有す
る、複数の画像として入力する画像入力手段と、前記複
数の画像の少なくとも各オーバーラップ領域内に生じた
画像の歪みまたは画像の差異を補正するのに必要な補正
パラメータを設定する補正パラメータ設定手段と、前記
設定された補正パラメータに従って、前記複数の画像の
少なくともオーバーラップ領域内に生じた画像歪みまた
は画像の差異が無くなるように、前記複数の画像のう
ち、少なくとも1枚の画像に対して補正を行う画像補正
手段と、前記画像補正手段で補正された複数の画像を、
前記オーバーラップ領域上で重ねて、順次繋ぎ合わせる
ことで、前記1つの構図を復元する画像合成手段と、前
記画像入力手段により入力された複数の画像、または、
前記画像補正手段により補正された画像のうち少なくと
も1枚の画像を表示する画像表示手段とを備えた画像処
理装置を提供する。
【0031】以上のような構成の画像処理装置は、画像
補正手段で補正された画像を画像表示手段に表示して確
認できるため、必要な補正パラメータを知らなくても効
果的に画像を補正可能であり、画像合成手段により正確
に繋ぎ合わせた画像が得られる。
【0032】また、1つの構図を異なる露出で撮影した
複数の画像として入力する画像入力手段と、前記露出が
異なる複数の画像のうち、少なくとも1枚の画像の明る
さを補正するのに必要な補正パラメータを設定する補正
パラメータ設定手段と、前記設定された補正パラメータ
に従って、前記複数の画像のうち、少なくとも1枚の画
像に対して明るさを補正する画像補正手段と、前記画像
補正手段により補正された画像のうち少なくとも1枚の
画像を表示する画像補正手段と、前記複数の入力画像と
前記設定された補正パラメータに基づいて、前記1つの
構図が前記画像入力手段で入力されたときの入射光量を
推定し、前記画像補正手段で明るさが補正された複数の
画像を、前記画像表示手段の表示可能範囲内に収まるよ
うに変換して合成する画像合成手段とを備えた画像処理
装置を提供する。
【0033】このような画像処理装置では、画像補正手
段で補正された画像を画像表示手段に表示して補正パラ
メータを設定し、この補正パラメータに基づいて画像表
示手段の表示可能範囲に収まるように画像合成手段によ
り明るさが補正された画像が得られる。
【0034】前記画像処理装置は、前記補正された画像
における前記補正パラメータと、その補正画像若しくは
その画像を撮影した撮影手段の識別名とを関連づけて記
憶する補正パラメータ記憶手段を有し、前記補正パラメ
ータ設定手段は、前記補正パラメータ記憶手段に記憶さ
れた補正パラメータより所望の補正パラメータを選択し
て設定する画像処理装置を提供する。
【0035】さらに、画像処理装置は、一度補正に用い
たパラメータ値を補正パラメータ記憶手段に保存してお
き、必要な値を補正パラメータ記憶手段から選択して利
用することで、各画像毎に改めて初めから補正する必要
がない。
【0036】
【発明の実施の形態】以下、図面を参照して本発明の実
施形態について詳細に説明する。図1には、本発明によ
る第1の実施形態としての画像処理装置の概略的な構成
を示し説明する。本実施形態は、ディスプレイ等の表示
を見ながら簡便に収差を補正し、補正した画像を合成し
て高解像度・広画角の画像を得る装置である。
【0037】この画像処理装置は、デジタルスチルカメ
ラ(以下、デジタルカメラと称する)31で撮影した画
像や撮影時の撮影条件等の撮影情報からなる画像データ
を記録するメモリカード32と、メモリカード32から
画像データを読み取るカードリーダ33と、読み取られ
た画像データから画像を再生し、それらの画像に収差や
色調等の補正を施し、合成する画像処理部34と、合成
された画像及び画像データを表示するモニタ7、印刷出
力するプリンタ8及び画像等を記憶する光ディスクやメ
モリカード等の記録媒体9からなる。
【0038】前記画像処理部34は、カードリーダ33
で読み取られた画像データから伸長等の処理を行い画像
及び撮影情報を再生する画像データ再生部35と、画像
に収差や色調等の補正を行う画像補正処理部36と、画
像合成のための画像切り替えを行う信号切り替え部37
と、画像を合成する画像合成部6で構成される。
【0039】このような構成により、ユーザがデジタル
カメラ31を使って、被写体像の一部分が互いに重複す
るように分割した画像を撮影する。撮影されたこれらの
画像(画像a,画像b,…)は、圧縮・ヘッダ情報の付
加などの処理がデジタルカメラ31内で施された後、メ
モリカード32に画像データとして記録される。このメ
モリカード32は、カードリーダ33に挿入され、記録
された画像データがメモリカード32から読み出され、
画像処理部34に取り込まれる。取り込まれた画像デー
タは、まず、画像データ再生部35に入力され、伸長等
の処理が行われて画像データとして再生される。
【0040】そして、再生された画像データは、画像補
正処理部36で補正処理が行われ、信号切替部37を通
って、画像合成部6に入力される。画像合成部6は、図
19に示した構成を備えているものとする。この画像合
成部6は、例えば、特開平6−141228号公報と同
様の処理を施して合成し、その合成画像をモニタ7、プ
リンタ8、記憶媒体9等に出力する。
【0041】次に図2には、前述した画像補正処理部3
6の詳細な構成を示し説明する。この画像補正処理部3
6は、原画像・補正画像を表示する画像表示部44と、
入力された画像に対する収差補正を行う収差補正処理部
41と、該収差補正処理部41で補正に用いるパラメー
タを記憶する補正パラメータ記憶部42と、ユーザの操
作により補正パラメータを調整して設定、または、補正
パラメータ記憶部42から読み出された補正パラメータ
を選択して設定する補正パラメータ設定部43とで構成
される。
【0042】前記画像補正処理部36は、撮影を行うカ
メラにおいて、撮影した画像に対し1度も収差補正を施
したことがなく、そのカメラで撮影した画像に対して初
めて収差補正を施す場合と、以前に撮影画像を補正した
ことがあり、収差補正歴が残っているカメラで撮影した
画像を補正する場合とでは異なった働きをする。
【0043】まず、初めて使用したカメラで撮影した画
像に対して、収差補正をする場合について説明する。前
記収差補正処理部41では、図23(b)に示したよう
な歪曲収差のある画像(例えば、画像a)が入力され、
あらかじめ設定された(2)式における係数A1 ,A
2 ,…の初期値を用いて、(2)式に従って補正した画
像を画像表示部44に出力する。この画像表示部44
は、補正画像と同時に原画像aを表示する。
【0044】そして補正パラメータ設定部43では、係
数A1 ,A2 ,…を調整する機構を備え、ユーザの操作
により所望の係数を設定すると、直ちに係数を更新する
ように、収差補正処理部41に新たな係数A1 ,A2
…をフィードバックする。収差補正処理部41は、新た
に設定した後の係数で補正した画像を出力し、画像表示
部44の表示は、新たに補正された画像に更新される。
【0045】ユーザは、2枚若しくは少なくとも1枚の
画像を見ながら、補正パラメータ設定部43を操作し
て、撮影に用いたカメラからの画像に対して最適な補正
を行う係数A1 ,A2 ,…を決定する。この時、補正パ
ラメータ設定部43は、図3(a)に示したように、画
像表示部44上に表示した仮想的な調整つまみをマウス
やキーボード等で操作するように構成すると、操作が簡
便で好ましい。このつまみを操作して、係数(図3で
は、A1 ,A2 )を変更すると、画面上の「補正後画
像」が新たな係数値に応じて補正され、更新される。勿
論、表示画面に2枚以上の表示が必要な場合には、任意
の枚数の画像を表示してもよい。
【0046】そして、ユーザは、補正が十分だと判断し
た場合には、「OK」キーを押して(マウスの場合には
クリックして)、係数A1 ,A2 ,…を決定する。この
ように決定された係数は、それぞれカメラの機種名等ユ
ーザが任意に付けた名前と共に、補正パラメータ記憶部
42に記憶される。これは例えば、図4に示すような形
式のファイルとして、補正パラメータ記憶部42に記憶
させればよい。
【0047】前述した係数調整に用いる画像は、任意の
もので構わないが、ビル、本棚、窓枠や方眼紙のよう
に、直交する直線が多く含まれる被写体を撮影した画像
の方がより調整がしやすい。
【0048】次に過去に撮影画像を補正したことがあ
り、その時の係数A1 ,A2 ,…が補正パラメータ記憶
部42にファイルとして保存されているカメラにより撮
影された画像を補正する場合について説明する。
【0049】このような場合には、補正パラメータが撮
影機材を示す名前と関連づけられて記憶されているた
め、画像処理装置を起動させる際に、そのデータを読み
込み、図3(b)に示すように画像表示部44にメニュ
ー形式で表示する。そしてユーザが、そのメニュー画面
から使用機材名を選択すると、対応する係数A1
2,…が補正パラメータ記憶部42から補正パラメー
タ設定部43を介して収差補正処理部41へ読み出さ
れ、入力画像に収差補正処理を施した画像が収差補正処
理部41から出力される。
【0050】以上説明したように、本実施形態では、あ
らかじめ撮影機材の光学系の収差情報を知る必要はな
く、ユーザが撮影した画像のみを見ながら補正係数を決
定するため、今まで使用していなかったカメラであって
も、使用するに際して、その光学系の特性を事前に知る
必要がない。
【0051】また、一旦、撮影した画像に収差補正を行
ったことのあるカメラに対しては、収差の補正係数がデ
ータとして記録されているため、メニューから選択する
だけで補正処理を実施できるので、画像合成に用いる全
ての画像に対して、毎回パラメータを設定して補正しな
ければならない、といった操作の煩雑さを回避すること
ができる。
【0052】なお、本実施形態では、メモリカードに画
像を記憶するデジタルカメラを利用しているが、これに
限定されず、直接、画像再生部に入力するような機材で
も画像処理が可能である。また、一台の入力装置で複数
の画像を撮影する場合について説明しているが、複数の
入力装置を同時に用いて入力する構成においても可能で
ある。また、本実施形態では、補正パラメータ設定部4
3は、画像表示部44上に示した仮想的な調整つまみと
して説明したが、回転式やスライド式の別体のスイッチ
としても構わない。
【0053】さらに、本実施形態では原画像と処理結果
を見比べながら補正するような構成であるが、ビル・本
棚等直線部分が多く含まれるな収差による画像であれ
ば、補正処理後の画像のみを画像表示部44に表示し
て、直線部分がまっすぐになるように調整することで、
係数A1 ,A2 ,…を決定することができる。
【0054】次に、第2の実施形態としての画像処理装
置について説明する。本実施形態は、前述した第1の実
施形態の変形であり、図5乃至図8を参照して説明す
る。本実施形態の構成部位で、前述した図1及び図2に
示す構成部位と同等の部位には、同じ参照符号を付し
て、その説明を省略する。
【0055】図6は、本実施形態の構成例を示す図であ
り、第1の実施形態とは、画像合成部6から出力された
合成画像を画像補正処理部36に入力している点が異な
っている。図7は、画像補正処理部36の構成例を示
す。図8は、画像補正処理部36の画像表示部44に表
示される画面の一例を示す。
【0056】この構成において、画像データ再生部35
で伸長等が施された画像データ(ここでは画像a)は、
収差補正処理部41に入力され、予め設定された補正パ
ラメータ値A1 ,A2 ,…を用いて補正されたデータが
画像合成部6に出力される。同様に、補正処理された画
像に隣接する画像においても、収差補正処理部41で補
正された後に出力され、画像合成部6で画像合成を行
い、繋ぎ合わされた画像を生成する。そして、合成され
た結果画像は、画像補正処理部36に入力され、画像表
示部44で表示される。
【0057】次に図5を参照して、ユーザの操作による
実際の処理例について説明する。図5(a)は、撮影対
象となる被写体である。これを歪曲収差のある光学系を
通し分割して取り込むと、図5(b)に示すように、画
像の周辺で被写体が歪んでしまう。
【0058】例えば、画像上に複数の特徴点の組(図5
ではP1とP1’、P2とP2’、P3とP3’との3
組)を設定する。この設定は、予め定めたプログラムに
よる制御により画像合成部6で自動的に行っても良い
し、ユーザの操作により指定しても構わない。これらの
組の中から2点を選択する。ここでは、P1とP2を選
択した例について説明する。
【0059】このとき、収差補正係数A1 ,A2 ,…が
正確でないまま画像合成部6で、P1とP2を基準に平
行移動量、回転量を求めて合成すると、図5(c)に示
すように P1とP1’、P2とP2’は正確に一致す
るが、P3とP3’は一致しない。当然、周囲の他の各
点も一致しない。
【0060】そこで、図6に示す装置構成により、実施
された合成結果を画像表示部44に表示し、ユーザは、
それらの表示を見ながら基準点P1とP2以外が一致す
るように係数 A1 ,A2 ,…を調整する。調整された
係数A1 ,A2 ,…は、収差補正処理部41に直ちに入
力され、新たに補正した画像が画像合成部6により繋ぎ
合わされて、画像表示部44に再表示される。
【0061】この時、係数 A1 ,A2 ,…が正しく設
定されるならば、P1とP1’、P2とP2’だけでな
く、P3とP3’も同時に一致する。このような方法に
より、風景画像・人物画像など一見収差の分かりにくい
画像についても容易に補正することができる。
【0062】本実施形態では、画像表示部44上に表示
される画像を見て、係数 A1 ,A2 ,…を調整するよ
うにしているが、P3とP3’のズレを自動的に検出し
て、そのズレが0若しくは最小になるように係数A1
2 ,…を自動的に補正しても構わない。
【0063】次に図9には、第3の実施形態としての画
像処理装置の画像補正処理部の構成例を示し説明する。
本実施形態の構成部位で、前述した第1、第2の実施形
態と同等の構成部位には、同じ参照符号を付して、その
説明を省略する。 一般に、カメラ等の光学系における
周辺減光の影響で、撮影された画像は、周辺に行くほど
入射光量が落ちてしまっている。そのため、周辺減光の
大きな画像を、前述した画像合成装置で繋ぎ合わせる
と、オーバーラップ領域の部分で画像が暗くなってしま
い、不自然な合成画像が生成される。
【0064】この周辺減光は、図10に示すように、画
像中心からの距離Rが大きくなるにつれて、画像の明る
さが暗くなってしまう現象であり、理想的な信号値Sに
対して、周辺減光のある場合の信号値S’は、近似的に
は、次の(3)式のように多項式で与えられる。
【0065】 S’/S=B0 +B1 ・R+B2 ・R2 +… (3) そこで、図9に示すように画像補正処理部36を、画像
表示部44と、周辺減光補正処理部46と、周辺減光補
正パラメータ記憶部47と、周辺減光補正パラメータ設
定選択部48とで構成する。
【0066】この周辺減光補正パラメータ設定選択部4
8では、係数B0 ,B1 ,B2 ,…を画像表示部44上
に表示する仮想的なつまみを動かして調整し、画像の中
心と周囲で明るさが同一になるように設定する。
【0067】このような構成で、係数 B0 ,B1 ,B
2 ,…を設定するように構成すれば、撮影に使用するカ
メラ等の光学系の諸パラメータを知らなくても、撮影し
た画像に基づき簡単に補正することができ、画像合成部
6で繋ぎ合わされた画像は、オーバーラップ部でも不自
然に暗くならず、画面全体として自然な画像を得ること
ができる。
【0068】また、周辺減光も歪曲収差と同様に、撮影
機材の光学系に固有の現象であるので、第1の実施形態
で説明したように、一旦補正して設定した係数の値を撮
影機材の名称等と関連づけて保存しておき、2回目以降
はメニューからその名称を選ぶだけで補正することが可
能である。
【0069】さらに、本実施形態では、原画像と処理結
果を見比べながら補正すると説明したが、画像全体の明
るさが一様になればいいので、補正処理後の画像のみを
画像表示部44に表示して係数B0 ,B1 ,B2 ,…
を設定・選択するようにしてもよい。
【0070】次に図11及び図12を参照して、第4の
実施形態としての画像処理装置の色調補正を行う構成に
ついて説明する。図11に示す構成の画像補正処理部3
6は、画像表示部44と、原画像をHSI変換と称する
変換により、色相(Hue ;H)、彩度(Saturation;
S)、明度(Intensity ;I)にそれぞれ変換する色調
補正部51と、H、S、Iの変換を行う補正パラメータ
を調整して色調を補正する補正パラメータ設定選択部4
3とで構成される。
【0071】このような画像補正処理部36により、原
画像はそれぞれ色調補正部51に入力され、 HSI変
換で色相H、彩度S、明度Iに変換される。さらに、色
調補正部51では、補正パラメータ設定部43で設定し
た色相H 、色彩S、明度Iに基づき、入力画像を補正
し、画像表示部44に出力する。ユーザは画像表示部4
4に表示される画像を比較しながら、図12に示すよう
な画面上の色相H 、色彩S、明度Iの調整用つまみを
操作して、両者が同じような色調になるように調整す
る。そして色調が調整されたデータは、画像合成部6で
合成され、繋ぎ合わされる。
【0072】このように構成された画像補正処理部36
により、画像合成の際に隣り合う複数の画像を合成した
画像のオーバーラップ領域だけでなく、画面全体の色調
が自然なものとなるようにすることができる。勿論、本
実施形態では、色相・色彩・明度に変換して調整するよ
うに説明したが、ホワイトバランスを合わせるのと同様
に、R、G、Bそれぞれの信号レベルを合わせるように
しても良い。
【0073】さらに図13に示すように、画像補正処理
部36に画像拡大縮小部52と補正パラメータ設定選択
部43を備えることにより、ズーム比の違い、撮影者の
撮影位置による被写体の大きさ変化にも対応して、良好
な合成画像を得ることができる。
【0074】次に、図14乃至図17を参照して、第5
の実施形態としての画像処理装置による広ダイナミック
化処理を行う構成例を示し説明する。この画像処理装置
は、広ダイナミック化技術において、既に撮影された画
像から露出時間比Rexp を算出し、この露出時間比を用
いて画像を合成する装置である。本実施形態の構成部位
で前述した第1の実施形態の構成部位と同等の部位には
同じ参照符号を付してその説明を省略する。
【0075】本実施形態の画像処理装置は、画像処理部
34に露出時間比算出部61を備えた構成である。この
画像処理部34において、再生された画像a、bは、ま
ず信号切替部37を経由して、露出時間比算出部61に
入力され、結果として、露出時間比Rexpが画像合成
部6に入力される。この画像合成部6で、算出された露
出時間比Rexp を用いて画像a、bを合成し、入力
機器のダイナミックレンジを超えた画像が出力される。
なお、画像合成部6の構成は、図22と同様の構成を用
いているため、ここでは説明を省略する。
【0076】図15には、前記露出時間比算出部61の
構成例を示し説明する。この露出時間比算出部61は、
画像表示部44と、ユーザにより露出時間比Rexp を調
整するための露出時間比設定部63と、この露出時間比
設定部63で設定された露出時間比Rexp を基に、入力
画像に対して、明るさを調整する明るさ補正部62とで
構成される。
【0077】このように構成された露出時間比算出部6
1は、入力画像a、bのうちの1枚(ここでは画像aと
する)を、基準画像として、そのまま画像表示部44に
表示する。また画像bは、明るさ補正部62で明るさを
補正し、画像表示部44に出力して表示される。
【0078】前記露出時間比設定部63は、ユーザが露
出時間比Rexp を調整できるように、例えば、後述する
画像表示部44の表示画面上に仮想的な調整つまみを表
示する機構を備えている。ユーザが露出時間比Rexp を
調整した結果は、直ちに明るさ補正部62にフィードバ
ックされ、調整後の露出時間比Rexp で補正した画像が
画像表示部44で表示される。
【0079】図16は、明るさ補正部62での処理を示
した図である。補正前の入力画像信号Sin に対して補
正後信号Sout は、 Sout =Rexp ・Sin (4) と変換される。このとき、Rexp >1.0ならば画像は
明るくなり、 Rexp <1.0ならば、画像は暗くな
る。
【0080】図17は、画像表示部44の表示例であ
る。この図17に示す基準画像の画像aにおいては、室
内(テーブルや花等が有るところ)は適正な露出であ
り、窓の外(木や山が見えるところ)はオーバーな露出
である状態を表している。また、調整画像の画像bにお
いては、前記窓の外は、適正な露出であり、前記室内
は、アンダーな露出である状態を表している。
【0081】画像aは、基準画像として表示され、画面
上に表示されるつまみを調整して、画像bの明るさを補
正する。そして、ユーザは、画像b全体の明るさが基準
画像(画像a)と同じくらいになった時点で、「OK」
キーで、調整終了を指示する。このように設定された露
出時間比Rexp が画像合成部6に出力され、広ダイナミ
ックレンジ化処理が行われる。
【0082】本実施形態によれば、画像を見て確認しつ
つ、露出時間比Rexp を求めることができるため、画像
を入力するための入力機器に所望する機器を使用するこ
とができ、また、撮影したときに露出時間を記録する必
要が無くなり、容易に広ダイナミックレンジ化処理を行
うことができる。
【0083】また、本実施形態では、2枚の画像による
露出時間比を補正するパラメータとして調整した例で説
明したが、これに限定されるものではなく、3枚以上の
画像の露出時間比を補正パラメータとした場合にも勿論
可能である。さらに、画像のうちの1つの画像を基準と
して、他方の画像のみを明るさ補正するように説明した
が、勿論、双方の画像の明るさを補正して、中間的な明
るさの画像を生成しても構わない。この時の露出時間比
は、それぞれの画像において、図16に示した傾きの比
となる。
【0084】さらに、露出の異なる複数の明暗画像を撮
影する方法として、絞りを変えて撮影してもよいし、減
光フィルタの透過率によって制御することも可能であ
る。つまり、広ダイナミックレンジ化処理に必要な補正
パラメータとしては、複数の画像間の露出比を示すもの
であればよく、このような露出比を示すものとして、上
述の実施形態に示した露出時間比や、絞り比、減光フィ
ルタの透過率比を補正パラメータとして利用することが
可能である。
【0085】また、全実施形態において、デジタルカメ
ラで撮影をするように記述しているが、従来の銀塩カメ
ラで撮影したフィルムをスキャナでデジタル化した画像
や、ビデオカメラやデジタルビデオカメラで撮影した画
像から、画像取込ボード等を介して取り込んだ画像にお
いても、同様の処理が可能である。各実施形態における
画像表示装置44においても、繋ぎ合わされた後の画像
を出力するモニタ7とを兼用させることができる。
【0086】さらに、前述した各実施形態を、それぞれ
組み合わせて構成することも可能である。特に補正パラ
メータ記憶部42は、上記第1〜第3の実施形態に記載
される構成においては、光学系の特性を知っていれば、
記憶することもできるし、第4、第5の実施形態に組み
入れて、パラメータを記憶することで調整のデフォルト
値とし、ユーザが調整をする際の参考にすることもでき
る。
【0087】以上の実施形態について説明したが、本明
細書には以下のような発明も含まれている。 1.1つの構図を分割し、隣接する箇所に互いに同じ被
写体像が存在するオーバーラップ領域を有する、複数の
画像として入力する画像入力手段と、前記複数の画像の
少なくとも各オーバーラップ領域内に生じた画像の歪み
または画像の差異を補正するのに必要な補正パラメータ
を設定する補正パラメータ設定手段と、前記設定された
補正パラメータに従って、前記複数の画像の少なくとも
オーバーラップ領域内に生じた画像歪みまたは画像の差
異が無くなるように、前記複数の画像のうち、少なくと
も1枚の画像に対して補正を行う画像補正手段と、前記
画像補正手段で補正された複数の画像を、前記オーバー
ラップ領域上で重ねて、順次繋ぎ合わせることで、前記
1つの構図を復元する画像合成手段と、前記画像入力手
段により入力された複数の画像、または、前記画像補正
手段により補正された画像のうち少なくとも1枚の画像
を表示する画像表示手段と、を具備することを特徴とす
る画像処理装置。
【0088】第1、2実施形態に対応する。この画像処
理装置により、画像補正手段で補正された画像を画像表
示手段に表示して確認できるため、必要な補正パラメー
タを知らなくても効果的に画像を補正することができ、
画像合成手段により正確に繋ぎ合わせた画像を得ること
ができる。
【0089】2.1つの構図を異なる露出で撮影した複
数の画像として入力する画像入力手段と、前記露出が異
なる複数の画像のうち、少なくとも1枚の画像の明るさ
を補正するのに必要な補正パラメータを設定する補正パ
ラメータ設定手段と、前記設定された補正パラメータに
従って、前記複数の画像のうち、少なくとも1枚の画像
に対して明るさを補正する画像補正手段と、前記画像補
正手段により補正された画像のうち少なくとも1枚の画
像を表示する画像補正手段と、前記複数の入力画像と前
記設定された補正パラメータに基づいて、前記1つの構
図が前記画像入力手段で入力されたときの入射光量を推
定し、前記画像補正手段で明るさが補正された複数の画
像を、前記画像表示手段の表示可能範囲内に収まるよう
に変換して合成する画像合成手段と、を備することを特
徴とする画像処理装置。
【0090】第5実施形態に対応する。この画像処理装
置では、画像補正手段で補正された画像を画像表示手段
に表示して補正パラメータを設定し、この補正パラメー
タに基づいて画像表示手段の表示可能範囲に収まるよう
に画像合成手段により明るさが補正された画像が得られ
る。
【0091】3.前記画像補正手段は、前記画像表示手
段に表示される複数の画像間における画像の明るさの違
いに応じて、前記補正パラメータを変化させることによ
り画像を補正するものであることを特徴とする前記
(1)項または(2)項に記載の画像処理装置。
【0092】第5実施形態に対応する。この画像処理装
置では、画像表示手段上で補正結果を確認しながら明る
さを補正することにより、予め露出時間比・絞り比等を
記録することなく画像から広ダイナミックレンジ化処理
に必要なパラメータを得ることができる。
【0093】4.前記画像補正手段は、前記画像表示手
段に表示される1枚の画像の歪曲収差または複数の画像
間における歪曲収差の違いに応じて、前記補正パラメー
タを変化させることにより画像を補正するものであるこ
とを特徴とする前記(1)項、(3)項のいずれかに記
載の画像処理装置。
【0094】第1、2実施形態に対応する。この画像処
理装置では、画像表示手段上で補正結果を確認をしなが
ら歪曲収差を補正するため、隣接画像間のズレ、回転を
正確に求めることができる。
【0095】5.前記画像補正手段は、前記画像表示手
段に表示される複数の画像間における画像の倍率の違い
に応じて、前記補正パラメータを変化させることによ
り、画像を補正するものであることを特徴とする前記
(1)項に記載の画像処理装置。
【0096】第4実施形態に対応する。この画像処理装
置では、画像表示手段上で補正結果を確認をしながら倍
率の違いを補正することで、正確な画像の繋ぎ合わせが
可能になる。
【0097】6.前記画像補正手段は、前記画像表示手
段に表示される複数の画像間における画像の色情報の違
いに応じて、前記補正パラメータを変化させることによ
り画像を補正するものであることを特徴とする前記
(1)項に記載の画像処理装置。
【0098】第4実施形態に対応する。この画像処理装
置では、画像表示手段上で補正結果を確認をしながら隣
接する画像間の色の違いを補正することで、繋ぎ合わせ
た画像は非常に自然な画像になる。
【0099】7.前記色情報は、色相、彩度、明度の少
なくとも1つであることを特徴とする前記(6)項に記
載の画像処理装置。第4実施形態に対応する。この画像
処理装置では、画像表示手段上で補正結果を確認をしな
がら隣接する画像間の色の違いを補正することで、繋ぎ
合わせた画像は非常に自然な画像になる。
【0100】8.前記色情報は、ホワイトバランスを調
整するためのR、G、B値の少なくとも一つであること
を特徴とする前記(6)項に記載の画像処理装置。第4
実施形態に対応する。この画像処理装置では、画像表示
手段上で補正結果を確認をしながら隣接する画像間の色
の違いを補正することで、繋ぎ合わせた画像は非常に自
然な画像になる。
【0101】9.前記画像補正手段は、前記画像表示手
段に表示される一枚の画像における画像の周辺減光また
は複数の画像間における画像の周辺減光の違いに応じ
て、前記補正パラメータを変化させることにより画像を
補正するものであることを特徴とする前記(1)項、
(3)項のいずれかに記載の画像処理装置。
【0102】第3実施形態に対応する。この画像処理装
置では、画像表示手段上で補正結果を確認をしながら周
辺減光を補正するため、繋ぎ合わせた画像は非常に自然
な画像になる。
【0103】10.前記画像補正手段は、前記画像表示
手段に表示される複数の画像間における画像の明るさの
違いに応じて、前記補正パラメータとして前記複数の画
像間における露出比を変化させることにより画像を補正
するものであることを特徴とする前記(3)記載の画像
処理装置。
【0104】第5実施形態に対応する。この画像処理装
置では、画像表示手段上で補正結果を確認しながら、広
ダイナミックレンジ化処理に必要なパラメータとしての
複数の画像間における露出比(露出時間比・絞り比・透
過率比等)を変化させることにより、画像の明るさを補
正し、広ダイナミックレンジ化された合成画像を得るこ
とができる。
【0105】11.前記補正された画像における前記補
正パラメータと、その補正画像若しくは、その画像を撮
影した撮影手段の識別名とを関連づけて記憶する補正パ
ラメータ記憶手段を有し、前記補正パラメータ設定手段
は、前記補正パラメータ記憶手段に記憶された補正パラ
メータより所望の補正パラメータを選択して設定するこ
とを特徴とする前記(1)、(3)項のいずれかに記載
の画像処理装置。
【0106】第1、2、3実施形態に対応する。この画
像処理装置では、一度補正に用いたパラメータ値を補正
パラメータ記憶手段に保存しておき、必要な値を補正パ
ラメータ記憶手段から選択して利用することで、各画像
ごとに改めて初めから補正する必要がない。
【0107】
【発明の効果】以上詳述したように本発明によれば、収
差・周辺減光等光学系の特性を予め知る必要がなく、ま
た、露出時間・ホワイトバランス等撮影条件が、制御且
つ記録できるような高価な撮影機材を用いる必要がな
く、ユーザが所有する任意の撮影機材や安価な撮影機材
で撮影した画像のみから補正し、繋ぎ合わせた広画角の
画像や広ダイナッミクレンジ化した画像を得ることがで
きる画像処理装置を提供することができる。
【図面の簡単な説明】
【図1】本発明による第1の実施形態としての画像処理
装置の概略的な構成を示す図である。
【図2】図1に示した画像補正処理部の詳細な構成を示
す図である。
【図3】画像表示部上に表示される画像への処理指示及
び画像の補正状態を示す図である。
【図4】補正パラメータ記憶部に記憶されるファイルの
形式の一例を示す図である。
【図5】歪曲収差のある光学系により撮影された画像の
合成について説明するための図である。
【図6】本発明による第2の実施形態としての画像処理
装置の概略的な構成を示す図である。
【図7】図6に示した画像補正処理部の構成例を示す図
である。
【図8】画像補正処理部の画像表示部に表示される合成
結果の一例を示す図である。
【図9】第3の実施形態としての画像処理装置における
画像補正処理部の構成例を示す図である。
【図10】周辺減光について説明するための画像中心か
らの距離と信号値の関係を示す図である。
【図11】第4の実施形態としての画像処理装置におけ
る画像補正処理部の構成例を示す図である。
【図12】画像補正処理部の画像表示部に表示される色
調補を行うための表示例を示す図である。
【図13】画像拡大縮小部と補正パラメータ設定部を備
える画像補正処理部の構成例を示す図である。
【図14】本発明による第5の実施形態としての画像処
理装置の概略的な構成を示す図である。
【図15】図14に示した露出時間比算出部の構成例を
示す図である。
【図16】明るさ補正部における補正前の入力画像信号
と補正後信号との関係を示す図である。
【図17】明るさ補正に関する画像表示部の表示例を示
す図である。
【図18】従来の画像処理装置の一構成例を示す図であ
る。
【図19】図18に示した画像合成部の一構成例を示す
図である。
【図20】画像を繋ぎ合わせた広角画像合成における画
像の重なり具合について説明するための図である。
【図21】長時間露出と短時間露出の信号を加算した信
号の特性を示す図である。
【図22】図18に示した画像合成部の一構成例を示す
図である。
【図23】歪曲収差の特性の一例を示す図である。
【符号の説明】
6…画像合成部 7…モニタ 8…プリンタ 9…記録媒体 31…デジタルスチルカメラ 32…メモリカード 33…カードリーダ 34…画像処理部 35…画像データ再生部 36…画像補正部 37…信号切り替え部 41…収差補正処理部 42…補正パラメータ記憶部 43…補正パラメータ設定部 44…画像表示部

Claims (3)

    【特許請求の範囲】
  1. 【請求項1】 1つの構図を分割し、隣接する箇所に互
    いに同じ被写体像が存在するオーバーラップ領域を有す
    る、複数の画像として入力する画像入力手段と、 前記複数の画像の少なくとも各オーバーラップ領域内に
    生じた画像の歪みまたは画像の差異を補正するのに必要
    な補正パラメータを設定する補正パラメータ設定手段
    と、 前記設定された補正パラメータに従って、前記複数の画
    像の少なくともオーバーラップ領域内に生じた画像歪み
    または画像の差異が無くなるように、前記複数の画像の
    うち、少なくとも1枚の画像に対して補正を行う画像補
    正手段と、 前記画像補正手段で補正された複数の画像を、前記オー
    バーラップ領域上で重ねて、順次繋ぎ合わせることで、
    前記1つの構図を復元する画像合成手段と、 前記画像入力手段により入力された複数の画像、また
    は、前記画像補正手段により補正された画像のうち少な
    くとも1枚の画像を表示する画像表示手段と、を具備す
    ることを特徴とする画像処理装置。
  2. 【請求項2】 1つの構図を異なる露出で撮影した複数
    の画像として入力する画像入力手段と、 前記露出が異なる複数の画像のうち、少なくとも1枚の
    画像の明るさを補正するのに必要な補正パラメータを設
    定する補正パラメータ設定手段と、 前記設定された補正パラメータに従って、前記複数の画
    像のうち、少なくとも1枚の画像に対して明るさを補正
    する画像補正手段と、 前記画像補正手段により補正された画像のうち少なくと
    も1枚の画像を表示する画像補正手段と、 前記複数の入力画像と前記設定された補正パラメータに
    基づいて、前記1つの構図が前記画像入力手段で入力さ
    れたときの入射光量を推定し、前記画像補正手段で明る
    さが補正された複数の画像を、前記画像表示手段の表示
    可能範囲内に収まるように変換して合成する画像合成手
    段と、 を具備することを特徴とする画像処理装置。
  3. 【請求項3】 前記補正された画像における前記補正パ
    ラメータと、その補正画像若しくはその画像を撮影した
    撮影手段の識別名とを関連づけて記憶する補正パラメー
    タ記憶手段を有し、 前記補正パラメータ設定手段は、前記補正パラメータ記
    憶手段に記憶された補正パラメータより所望の補正パラ
    メータを選択して設定することを特徴とする請求項1若
    しくは請求項2のいずれかに記載の画像処理装置。
JP31226096A 1996-11-08 1996-11-22 画像処理装置 Expired - Fee Related JP3974964B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP31226096A JP3974964B2 (ja) 1996-11-08 1996-11-22 画像処理装置
US08/964,180 US6995790B2 (en) 1996-11-08 1997-11-04 Image processing apparatus for joining a plurality of images

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP8-296750 1996-11-08
JP29675096 1996-11-08
JP31226096A JP3974964B2 (ja) 1996-11-08 1996-11-22 画像処理装置

Publications (2)

Publication Number Publication Date
JPH10187929A true JPH10187929A (ja) 1998-07-21
JP3974964B2 JP3974964B2 (ja) 2007-09-12

Family

ID=26560827

Family Applications (1)

Application Number Title Priority Date Filing Date
JP31226096A Expired - Fee Related JP3974964B2 (ja) 1996-11-08 1996-11-22 画像処理装置

Country Status (2)

Country Link
US (1) US6995790B2 (ja)
JP (1) JP3974964B2 (ja)

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000083157A (ja) * 1998-09-07 2000-03-21 Fuji Photo Film Co Ltd 画像処理方法および画像処理装置
JP2000092480A (ja) * 1998-09-16 2000-03-31 Atlus Co Ltd 画像プリント供給装置
JP2000209613A (ja) * 1999-01-14 2000-07-28 Nippon Telegr & Teleph Corp <Ntt> パノラマ画像作成方法及びパノラマ画像を用いた周囲状況伝達方法並びにこれらの方法を記録した記録媒体
JP2000244814A (ja) * 1999-02-24 2000-09-08 Hitachi Ltd 画像合成装置、画像合成方法が記録された記録媒体
JP2001274973A (ja) * 2000-03-24 2001-10-05 Sanyo Electric Co Ltd 顕微鏡画像合成装置、顕微鏡画像合成方法、顕微鏡画像合成処理プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2005295567A (ja) * 2004-04-01 2005-10-20 Microsoft Corp 輝度補正を伴うデジタルカメラ
EP1658732A1 (en) * 2003-07-14 2006-05-24 Stefan Carlsson Method and device for generating wide image sequences
US7139412B2 (en) 2001-04-24 2006-11-21 Matsushita Electric Industrial Co., Ltd. Image synthesis display method and apparatus for vehicle camera
US7324135B2 (en) 2002-10-15 2008-01-29 Seiko Epson Corporation Panoramic composition of multiple image data
JP2009064427A (ja) * 2007-08-27 2009-03-26 Core Logic Inc 映像歪曲補正方法及びその補正方法を採用した映像処理装置
US7542070B2 (en) 2000-01-17 2009-06-02 Fujifilm Corporation Image processing apparatus, and photographing system for receiving and creating processing information
WO2011049118A1 (ja) * 2009-10-20 2011-04-28 株式会社パスコ 路面画像撮影・編集装置及び路面画像撮影・編集プログラム
JP2014178781A (ja) * 2013-03-13 2014-09-25 Olympus Corp 画像処理装置、顕微鏡システム及び画像処理方法
KR20150007926A (ko) * 2013-07-11 2015-01-21 삼성전자주식회사 현상 방법 및 촬상 장치.
JP2015095887A (ja) * 2013-11-14 2015-05-18 キヤノン株式会社 撮像装置およびその制御方法
WO2015190031A1 (ja) * 2014-06-11 2015-12-17 ソニー株式会社 情報処理装置、情報処理方法、プログラム、及び画像表示装置
WO2017142364A1 (ko) * 2016-02-17 2017-08-24 삼성전자 주식회사 가상 현실 시스템에서 이미지 처리 방법 및 장치
WO2019053839A1 (ja) * 2017-09-14 2019-03-21 株式会社日立ハイテクノロジーズ 荷電粒子顕微鏡装置および広視野画像生成方法
KR20190040970A (ko) * 2016-09-08 2019-04-19 삼성전자주식회사 삼백 육십도 비디오 스티칭

Families Citing this family (62)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6786420B1 (en) 1997-07-15 2004-09-07 Silverbrook Research Pty. Ltd. Data distribution mechanism in the form of ink dots on cards
US6618117B2 (en) 1997-07-12 2003-09-09 Silverbrook Research Pty Ltd Image sensing apparatus including a microcontroller
US6879341B1 (en) 1997-07-15 2005-04-12 Silverbrook Research Pty Ltd Digital camera system containing a VLIW vector processor
US6624848B1 (en) 1997-07-15 2003-09-23 Silverbrook Research Pty Ltd Cascading image modification using multiple digital cameras incorporating image processing
US7110024B1 (en) 1997-07-15 2006-09-19 Silverbrook Research Pty Ltd Digital camera system having motion deblurring means
US6948794B2 (en) 1997-07-15 2005-09-27 Silverbrook Reserach Pty Ltd Printhead re-capping assembly for a print and demand digital camera system
US6690419B1 (en) 1997-07-15 2004-02-10 Silverbrook Research Pty Ltd Utilising eye detection methods for image processing in a digital image camera
DE69937298T2 (de) * 1998-06-22 2008-02-07 Fujifilm Corp. Bilderzeugungsgerät und verfahren
JP4282113B2 (ja) * 1998-07-24 2009-06-17 オリンパス株式会社 撮像装置および撮像方法、並びに、撮像プログラムを記録した記録媒体
AUPP702098A0 (en) 1998-11-09 1998-12-03 Silverbrook Research Pty Ltd Image creation method and apparatus (ART73)
US6930710B1 (en) * 1998-11-13 2005-08-16 Cnh Canada, Ltd. Method of and apparatus for processing a video image
EP1067804A4 (en) * 1998-12-26 2005-05-11 Sony Corp VIDEO SIGNAL PROCESSING APPARATUS AND METHOD
US7015966B1 (en) * 1999-03-15 2006-03-21 Canon Kabushiki Kaisha Reducing discontinuities in segmented imaging sensors
AUPQ056099A0 (en) 1999-05-25 1999-06-17 Silverbrook Research Pty Ltd A method and apparatus (pprint01)
JP4169462B2 (ja) * 1999-08-26 2008-10-22 株式会社リコー 画像処理方法及び装置、デジタルカメラ、画像処理システム、並びに、画像処理プログラムを記録した記録媒体
US8407595B1 (en) * 2000-02-11 2013-03-26 Sony Corporation Imaging service for automating the display of images
US7313289B2 (en) * 2000-08-30 2007-12-25 Ricoh Company, Ltd. Image processing method and apparatus and computer-readable storage medium using improved distortion correction
JP3539394B2 (ja) * 2001-03-26 2004-07-07 ミノルタ株式会社 画像処理装置、プログラムおよび記録媒体
AU2002366985A1 (en) * 2001-12-26 2003-07-30 Yeda Research And Development Co.Ltd. A system and method for increasing space or time resolution in video
JP3971246B2 (ja) * 2002-06-03 2007-09-05 富士フイルム株式会社 デジタル撮影装置
US7486318B2 (en) * 2003-06-23 2009-02-03 Sony Corporation Method, apparatus, and program for processing an image
US7596286B2 (en) * 2003-08-06 2009-09-29 Sony Corporation Image processing apparatus, image processing system, imaging apparatus and image processing method
JP4180083B2 (ja) * 2003-09-26 2008-11-12 シャープ株式会社 パノラマ画像作成装置及びパノラマ画像撮影装置
US8804028B2 (en) * 2004-01-30 2014-08-12 Hewlett-Packard Development Company, L.P. Digital image production method and apparatus
JP4617085B2 (ja) * 2004-02-16 2011-01-19 キヤノン株式会社 画像表示装置および画像表示方法
JP4338551B2 (ja) * 2004-03-04 2009-10-07 富士フイルム株式会社 画像再生方法、画像再生装置及び画像再生プログラム
DE602004029133D1 (de) * 2004-03-05 2010-10-28 Mega Vision Corp Verarbeitungsvorrichtung und Computerprogramm zur Gamma-Korrektur
JP4632721B2 (ja) 2004-03-18 2011-02-16 メガビジョン株式会社 処理装置及びガンマ値調整プログラム
JP4223420B2 (ja) 2004-03-05 2009-02-12 メガビジョン株式会社 撮影装置
JP4566591B2 (ja) * 2004-03-19 2010-10-20 キヤノン株式会社 画像変形推定方法および画像変形推定装置
CN1985266B (zh) 2004-07-26 2010-05-05 奥普提克斯晶硅有限公司 全景视觉系统和方法
US20070103544A1 (en) * 2004-08-26 2007-05-10 Naofumi Nakazawa Panorama image creation device and panorama image imaging device
JP4763469B2 (ja) * 2005-03-07 2011-08-31 富士フイルム株式会社 固体撮像装置および画像入力装置、ならびにその画像補正方法
US10341558B2 (en) * 2005-06-03 2019-07-02 Craig P. Mowry System and apparatus for increasing quality and efficiency of film capture and methods of use thereof
US20070127909A1 (en) 2005-08-25 2007-06-07 Craig Mowry System and apparatus for increasing quality and efficiency of film capture and methods of use thereof
US11632498B1 (en) * 2005-06-03 2023-04-18 Craig P. Mowry Multi-dimensional imaging system and method
JP4687265B2 (ja) * 2005-06-14 2011-05-25 富士ゼロックス株式会社 画像分析装置
US7454136B2 (en) * 2005-07-28 2008-11-18 Mitsubishi Electric Research Laboratories, Inc. Method and apparatus for acquiring HDR flash images
JP2007096904A (ja) * 2005-09-29 2007-04-12 Fujifilm Corp プリント注文受付装置及び方法並びにインデックス画像作成装置及び方法
JP4297111B2 (ja) * 2005-12-14 2009-07-15 ソニー株式会社 撮像装置、画像処理方法及びそのプログラム
JP4706466B2 (ja) * 2005-12-16 2011-06-22 株式会社日立製作所 撮像装置
JP5074777B2 (ja) * 2006-05-22 2012-11-14 キヤノン株式会社 撮像機能付表示装置、画像処理装置、画像処理方法、および、画像表示システム
JP4345829B2 (ja) * 2007-03-09 2009-10-14 ソニー株式会社 画像表示システム、画像表示装置、画像表示方法およびプログラム
JP4714174B2 (ja) * 2007-03-27 2011-06-29 富士フイルム株式会社 撮像装置
JP4940116B2 (ja) * 2007-12-06 2012-05-30 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP5187139B2 (ja) * 2008-10-30 2013-04-24 セイコーエプソン株式会社 画像処理装置およびプログラム
US20100259639A1 (en) * 2009-04-13 2010-10-14 Qualcomm Incorporated Automatic backlight detection
US9237294B2 (en) 2010-03-05 2016-01-12 Sony Corporation Apparatus and method for replacing a broadcasted advertisement based on both heuristic information and attempts in altering the playback of the advertisement
US9832528B2 (en) 2010-10-21 2017-11-28 Sony Corporation System and method for merging network-based content with broadcasted programming content
US8374428B2 (en) * 2010-12-05 2013-02-12 Microsoft Corporation Color balancing for partially overlapping images
US9600863B2 (en) * 2012-02-13 2017-03-21 Omnivision Technologies, Inc. Method for combining images
CN102663716A (zh) * 2012-03-12 2012-09-12 武汉大学 适用于影像有效范围为凸多边形的接缝线网络生成方法
JP5950678B2 (ja) * 2012-04-27 2016-07-13 キヤノン株式会社 撮像装置、制御方法、及びプログラム
CN102867297B (zh) * 2012-08-31 2015-08-19 天津大学 一种低照度图像采集的数字化处理方法
US9396571B2 (en) * 2014-02-10 2016-07-19 International Business Machines Corporation Simplified lighting compositing
US9196039B2 (en) 2014-04-01 2015-11-24 Gopro, Inc. Image sensor read window adjustment for multi-camera array tolerance
CN105812649B (zh) * 2014-12-31 2019-03-29 联想(北京)有限公司 一种摄像方法和装置
EP3076657B1 (en) * 2015-04-02 2017-05-24 Axis AB Method for determination of focal length for a zoom lens
US9563957B1 (en) 2015-07-02 2017-02-07 Yesvideo, Inc. 2D/3D image scanning and compositing
JP6746892B2 (ja) * 2015-09-30 2020-08-26 ヤマハ株式会社 画像処理装置、画像処理方法およびプログラム
US10706512B2 (en) * 2017-03-07 2020-07-07 Adobe Inc. Preserving color in image brightness adjustment for exposure fusion
JP7357620B2 (ja) * 2018-08-20 2023-10-06 ソニーセミコンダクタソリューションズ株式会社 画像処理装置、および画像処理システム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2710317B2 (ja) 1986-10-15 1998-02-10 オリンパス光学工業株式会社 カラー撮像装置
US4926247A (en) 1986-10-15 1990-05-15 Olympus Optical Co., Ltd. Color imaging apparatus including a means for electronically non-linearly expanding and compressing dynamic range of an image signal
GB2256989B (en) * 1991-06-21 1995-02-08 Sony Broadcast & Communication Video image capture apparatus
JP3791696B2 (ja) 1992-04-09 2006-06-28 オリンパス株式会社 画像表示装置
JP3335413B2 (ja) 1992-04-14 2002-10-15 オリンパス光学工業株式会社 電子カメラ
JP3192875B2 (ja) * 1994-06-30 2001-07-30 キヤノン株式会社 画像合成方法および画像合成装置
JPH0832847A (ja) * 1994-07-13 1996-02-02 Fuji Photo Film Co Ltd 電子スチル・カメラおよびその制御方法
JPH08116490A (ja) * 1994-10-14 1996-05-07 Olympus Optical Co Ltd 画像処理装置
JPH08256295A (ja) * 1994-12-21 1996-10-01 Olympus Optical Co Ltd 画像処理装置
US5828793A (en) * 1996-05-06 1998-10-27 Massachusetts Institute Of Technology Method and apparatus for producing digital images having extended dynamic ranges

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6646760B1 (en) 1998-09-07 2003-11-11 Fuji Photo Film Co., Ltd. Image processing method and apparatus
JP2000083157A (ja) * 1998-09-07 2000-03-21 Fuji Photo Film Co Ltd 画像処理方法および画像処理装置
JP2000092480A (ja) * 1998-09-16 2000-03-31 Atlus Co Ltd 画像プリント供給装置
KR100359915B1 (ko) * 1998-09-16 2002-11-04 가부시키가이샤 아트라스 화상 프린트 공급 장치
JP2000209613A (ja) * 1999-01-14 2000-07-28 Nippon Telegr & Teleph Corp <Ntt> パノラマ画像作成方法及びパノラマ画像を用いた周囲状況伝達方法並びにこれらの方法を記録した記録媒体
JP2000244814A (ja) * 1999-02-24 2000-09-08 Hitachi Ltd 画像合成装置、画像合成方法が記録された記録媒体
US7542070B2 (en) 2000-01-17 2009-06-02 Fujifilm Corporation Image processing apparatus, and photographing system for receiving and creating processing information
JP2001274973A (ja) * 2000-03-24 2001-10-05 Sanyo Electric Co Ltd 顕微鏡画像合成装置、顕微鏡画像合成方法、顕微鏡画像合成処理プログラムを記録したコンピュータ読み取り可能な記録媒体
US7139412B2 (en) 2001-04-24 2006-11-21 Matsushita Electric Industrial Co., Ltd. Image synthesis display method and apparatus for vehicle camera
US7324135B2 (en) 2002-10-15 2008-01-29 Seiko Epson Corporation Panoramic composition of multiple image data
EP1658732A1 (en) * 2003-07-14 2006-05-24 Stefan Carlsson Method and device for generating wide image sequences
US7864215B2 (en) 2003-07-14 2011-01-04 Cogeye Ab Method and device for generating wide image sequences
JP2005295567A (ja) * 2004-04-01 2005-10-20 Microsoft Corp 輝度補正を伴うデジタルカメラ
JP2009064427A (ja) * 2007-08-27 2009-03-26 Core Logic Inc 映像歪曲補正方法及びその補正方法を採用した映像処理装置
JP2011090367A (ja) * 2009-10-20 2011-05-06 Pasuko:Kk 路面画像撮影・編集装置及び路面画像撮影・編集プログラム
WO2011049118A1 (ja) * 2009-10-20 2011-04-28 株式会社パスコ 路面画像撮影・編集装置及び路面画像撮影・編集プログラム
JP2014178781A (ja) * 2013-03-13 2014-09-25 Olympus Corp 画像処理装置、顕微鏡システム及び画像処理方法
KR20150007926A (ko) * 2013-07-11 2015-01-21 삼성전자주식회사 현상 방법 및 촬상 장치.
JP2015095887A (ja) * 2013-11-14 2015-05-18 キヤノン株式会社 撮像装置およびその制御方法
WO2015190031A1 (ja) * 2014-06-11 2015-12-17 ソニー株式会社 情報処理装置、情報処理方法、プログラム、及び画像表示装置
US9894330B2 (en) 2014-06-11 2018-02-13 Sony Corporation Information processing apparatus and information processing method for correction of images
WO2017142364A1 (ko) * 2016-02-17 2017-08-24 삼성전자 주식회사 가상 현실 시스템에서 이미지 처리 방법 및 장치
US10770032B2 (en) 2016-02-17 2020-09-08 Samsung Electronics Co., Ltd. Method and apparatus for processing image in virtual reality system
KR20190040970A (ko) * 2016-09-08 2019-04-19 삼성전자주식회사 삼백 육십도 비디오 스티칭
WO2019053839A1 (ja) * 2017-09-14 2019-03-21 株式会社日立ハイテクノロジーズ 荷電粒子顕微鏡装置および広視野画像生成方法

Also Published As

Publication number Publication date
JP3974964B2 (ja) 2007-09-12
US20030133019A1 (en) 2003-07-17
US6995790B2 (en) 2006-02-07

Similar Documents

Publication Publication Date Title
JP3974964B2 (ja) 画像処理装置
JP4245699B2 (ja) 撮像装置
JP5300756B2 (ja) 撮像装置及び画像処理方法
JPH1188672A (ja) 画像処理方法および装置、画像再生方法および装置並びにその方法に使用する画像確認装置
JP2009232471A (ja) 撮像装置
JP5457845B2 (ja) 色特性補正装置およびカメラ
JP2005328497A (ja) 撮像装置及び撮像方法
JP6529533B2 (ja) 撮像装置、撮像装置の制御方法、及び、プログラム
JP5136209B2 (ja) 未現像画像データの現像処理装置、現像処理方法、および現像処理のためのコンピュータプログラム
JPH11242737A (ja) 画像処理方法及び装置並びに情報記録媒体
JP3984346B2 (ja) 撮像装置及び画像合成方法
JP2004153691A (ja) 撮像装置、撮像方法及びプログラム
JP5282530B2 (ja) デジタルカメラ
JP2002305684A (ja) 撮像システム及びプログラム
JP3546853B2 (ja) 撮像装置及び画像再生システム
JPH07131718A (ja) 画像合成装置
JP4406461B2 (ja) 撮像装置
JP2007019726A (ja) 撮像装置
JP3974798B2 (ja) 撮像装置
JP3332942B2 (ja) 電子スチルカメラ
JP2005117524A (ja) 画像処理システム
JP6210772B2 (ja) 情報処理装置、撮像装置、制御方法、及びプログラム
JP2004220438A (ja) 画像処理プログラム及び方法
JP2009080619A (ja) 撮像装置、画像合成装置及びそのプログラム
JPH11196317A (ja) 撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040319

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060718

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070124

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070306

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070507

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20070517

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070612

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070618

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100622

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110622

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120622

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120622

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130622

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees