JP2009169601A - 画像処理システム及びこの画像処理システムを有するカメラ - Google Patents
画像処理システム及びこの画像処理システムを有するカメラ Download PDFInfo
- Publication number
- JP2009169601A JP2009169601A JP2008005878A JP2008005878A JP2009169601A JP 2009169601 A JP2009169601 A JP 2009169601A JP 2008005878 A JP2008005878 A JP 2008005878A JP 2008005878 A JP2008005878 A JP 2008005878A JP 2009169601 A JP2009169601 A JP 2009169601A
- Authority
- JP
- Japan
- Prior art keywords
- image
- pixel data
- buffer memory
- conversion
- correction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 146
- 230000015654 memory Effects 0.000 claims abstract description 111
- 238000012937 correction Methods 0.000 claims abstract description 90
- 238000003384 imaging method Methods 0.000 claims abstract description 49
- 230000003287 optical effect Effects 0.000 claims abstract description 28
- 238000006243 chemical reaction Methods 0.000 claims description 86
- 238000007781 pre-processing Methods 0.000 claims description 8
- 230000004075 alteration Effects 0.000 claims description 7
- 230000002950 deficient Effects 0.000 claims description 3
- 230000008859 change Effects 0.000 abstract description 10
- 230000006866 deterioration Effects 0.000 abstract description 2
- 238000000034 method Methods 0.000 description 23
- 230000008569 process Effects 0.000 description 23
- 238000013461 design Methods 0.000 description 8
- 238000011161 development Methods 0.000 description 8
- 238000003702 image correction Methods 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 241000226585 Antennaria plantaginifolia Species 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
- Image Input (AREA)
- Editing Of Facsimile Originals (AREA)
- Facsimile Scanning Arrangements (AREA)
Abstract
【課題】撮像系で負担するには困難を伴う光学特性値であるが、画像処理系で処理するには困難を伴わない光学特性値に着目し、変倍に伴う画像の光学特性値の劣化を画像処理系に負担させ、総合的に画像品質の改善を図ることのできるシステムを提供する。
【解決手段】本発明の画像処理システムは、CCD2aを有しかつ被写体を撮像してCCD2aから出力された被写体画像信号を画素データとして出力する撮像系と、画素データを各座標位置に順次一時保存する変換用バッファメモリ7と、変換用バッファメモリ7に一時保存された各画素データに施すべき補正処理情報を各画素毎に保存するデータベース10と、データベース10に保存されている補正処理情報に基づいて変換用バッファメモリ7の各座標位置に保存されている各画素データに補正処理を施しかつ補正処理が施された各画素データを順次出力する補正処理回路9とを備え、データベース10に保存されている補正処理情報が撮像系の変倍に伴って変更される。
【選択図】図5
【解決手段】本発明の画像処理システムは、CCD2aを有しかつ被写体を撮像してCCD2aから出力された被写体画像信号を画素データとして出力する撮像系と、画素データを各座標位置に順次一時保存する変換用バッファメモリ7と、変換用バッファメモリ7に一時保存された各画素データに施すべき補正処理情報を各画素毎に保存するデータベース10と、データベース10に保存されている補正処理情報に基づいて変換用バッファメモリ7の各座標位置に保存されている各画素データに補正処理を施しかつ補正処理が施された各画素データを順次出力する補正処理回路9とを備え、データベース10に保存されている補正処理情報が撮像系の変倍に伴って変更される。
【選択図】図5
Description
本発明は、カメラの画像処理システム及びこの画像処理システムを有するカメラの改良に関する。
従来から、カメラの画像処理システムには、魚眼レンズで撮影された画像を、歪みのない画像に変換するものが知られている。従来、この種の画像処理システムでは、画像変換前の一画面分の全画素データをバッファメモリに蓄積して、各画素の座標毎(ビット単位で表現するとアドレス毎)に画素データの座標を変換し、この変換された座標の画素データを逐次読み出して、歪みが補正された画素データを出力させるようにしている。
しかしながら、この種の画像処理システムでは、全画素データを蓄積するだけの容量を有するバッファが必要となるため、バッファメモリの容量が大きくなるという問題がある。また、この種の画像処理システムでは、一画面分の全画素データをバッファメモリに読み込むまで、画像変換処理を実行することができず、画像変換処理に時間がかかるという問題がある。
そこで、小さな容量のバッファメモリでかつ高速の画像変換処理が可能な画像変換装置が提案されている(例えば、特許文献1参照。)。
このものでは、バッファメモリの容量が一画面分の全画素データを蓄積するに足りる容量分を持っておらず、画素データがバッファメモリに蓄積されて満杯になると、バッファメモリに蓄積されている画素データのうち最も古い画素データに最も新しい画素データを上書きすることにより、バッファメモリの容量不足を解消する構成となっている。
特開2007−156795号公報
ところで、従来、カメラの撮像系(レンズ系)と画像処理系とは、別々に設計開発を行っており、撮像系(レンズ系)は撮像系(レンズ系)のみでの画像の歪み(ディストーション)、明るさ(シェージング)、解像度(MTF)、色収差、色倍率の改良を図り、画像処理系は画像処理により画像の歪み(ディストーション)、明るさ(シェージング)、解像度(MTF)、色収差、色倍率等の光学特性の改良を図っており、カメラの撮像系(レンズ系)と画像処理系との設計開発を別々に行うために、開発コストが嵩みかつ開発に時間がかかるという問題がある。
一例として、画像の歪みについて説明する。
図1は被写体Pとレンズ系Lと被写体画像P’との関係を示し、図2はその被写体画像P’がたる型に歪んだ状態を示す。その歪みは、図3に示すレンズ系Lの中心部(光軸)Oから周辺部に移行するに伴って大きくなり、光軸Oの歪み率を「0」として、像高H方向に大きくなり、一般に、歪み率曲線は図4に示すグラフとして表される。なお、その図3において、矩形状枠は後述する撮像センサーの撮像面に相当する領域を示している。
従来、この歪み率を低減するために、レンズ系Lの光学設計のみで改善を図っていた。ところが、レンズ系Lのみで光学特性の改良を図ることにすると、レンズ系Lが大型化するという問題があり、レンズ系Lで負担するには相当の困難が伴う光学特性値であるが、画像処理系で負担するにはそれほどの困難を伴わない光学特性値については、画像処理系に負担させ、カメラのレンズ系Lと画像処理系との開発を別々に進めるのではなく、レンズ系Lと画像処理系との開発を画像の品質という観点からリンクして進めるのが望ましい。
従来の画像処理システムも、レンズ系Lで生じた画像の歪みを画像処理系で解消するという点では、結果的に、レンズ系Lで負担すべき光学特性値としての画像の歪みの一部を画像処理技術によって解決している。
しかしながら、この従来の画像処理システムは、レンズ系Lで負担するには相当の困難を伴う光学特性値であるが、画像処理系で負担するにはそれほどの困難を伴わない光学特性値については画像処理系に負担させ、レンズ系Lと画像処理系との開発を画像の品質という観点からリンクして進めるという発想から為されたものではない。
特に、変倍を伴うレンズ系Lでは、倍率の変化又は焦点距離の変化に伴って光学特性値としての歪み率が変化し、このような倍率変化に伴う歪み率の変化を解消するためにレンズ系Lを設計しようとすると、レンズ系Lが大型化すると共にその解消のために相当の困難を伴う。
本発明は、レンズ系と画像処理系との開発を画像の品質という観点からリンクして進めるという発想から為されたもので、カメラの撮像系で負担するには相当の困難を伴う光学特性値であるが、画像処理系で処理するにはそれほどの困難を伴わない光学特性値に着目し、変倍に伴う画像の光学特性値の劣化を画像処理系に負担させて解消させることにより、レンズ系の設計に関する負担を軽減し、総合的に画像品質の改善を図ることのできる画像処理システム及びこの画像処理システムを有するカメラを提供することにある。
請求項1に記載の画像処理システムは、撮像センサーを有しかつ被写体を撮像して前記撮像センサーから出力された被写体画像信号を画素データとして出力する撮像系と、前記画素データを各座標位置に順次一時保存する変換用バッファメモリと、前記変換用バッファメモリに一時保存された各画素データに施すべき補正処理情報を各画素毎に保存する画像変換テーブルと、前記画像変換テーブルに保存されている補正処理情報に基づいて前記変換用バッファメモリの各座標位置に保存されている各画素データに補正処理を施しかつ補正処理が施された各画素データを順次出力する画像データ変換処理部とを備え、前記画像変換テーブルに保存されている補正処理情報が前記撮像系の変倍に伴って変更されることを特徴とする。
請求項2に記載の画像処理システムは、前記画像データ変換処理部により補正処理された補正処理済み画素データに基づき被写体画像を表示するために、前記各補正処理済み画素データを一時的に保存する表示用バッファメモリを備えていることを特徴とする。
請求項3に記載の画像処理システムは、前記変換用バッファメモリのメモリ容量が一画面分のバッファメモリの容量よりも少ないことを特徴とする。
請求項4に記載の画像処理システムは、前記補正処理情報が光学特性値としての歪み情報であることを特徴とする。
請求項5に記載の画像処理システムは、前記補正処理情報が歪み情報と明るさ情報と解像度情報と色収差情報と色倍率収差情報とのうちの少なくとも一つ以上からなることを特徴とする。
請求項6に記載の画像処理システムは、前記変換用バッファメモリと前記撮像センサーとの間に、前記各画素データに欠陥画素補正、黒レベル補正、ホワイトバランス補正等の前処理を行う前処理部が設けられていることを特徴とする。
請求項7に記載の画像処理システムは、前記撮像センサーがCCDセンサー又はCMOSセンサーであることを特徴とする。
請求項8に記載のカメラは、請求項1に記載の画像処理システムを有することを特徴とする。
本発明によれば、撮像系の変倍に伴って光学特性値が変化した場合でも、画像の補正処理情報をこの光学特性値の変化に伴って変更できるので、この光学特性値の変化に伴う画像の劣化を画像処理系に負担させることができることになり、撮像系のレンズの大型化を回避でき、かつ、開発コストの低減をも図ることができる。
請求項3に記載の発明によれば、変換用バッファメモリの容量が一画面分の容量よりも少ないので、更に、画像補正処理の迅速化、カメラの小型化、省電力化を図ることができる。
また、請求項8に記載のカメラによれば、カメラの小型化を図ることができるので、車載用カメラ、監視用カメラ、医療用カメラ等の小型化が要求されるカメラに用いることができる。
以下に、本発明に係わる画像処理システムの発明の実施の形態を図面を参照しつつ説明する。
図5において、1は光学系、2は撮像部、3は信号処理IC部である。光学系1は、オートフォーカスレンズ1aとズームレンズ1bとこれらのレンズを駆動するモータドライバ1cとから大略構成されている。
撮像部2は、ここでは、撮像センサーとしてのCCD2aとタイミングジェネレーター2bとA/D変換回路2cとから大略構成されている。なお、撮像センサーとしてCCD2aの代わりにC−MOSセンサーを用いても良い。ここでは、CCD2aの撮像面の画素数を横(X方向)640×縦(Y方向)480であるとする。その光学系1と撮像部2とによって撮像センサーを有しかつ被写体を撮像して前記撮像センサーから出力された被写体画像信号を画素データとして出力する撮像系が構成されている。
オートフォーカスレンズ1a、ズームレンズ1bはモータドライバ1cを介してCPU4によって駆動制御され、CCD2a、A/D変換回路2cはタイミングジェネレーター2bを介してCPU4によって駆動制御される。
オートフォーカスレンズ1aは、CCD2aの撮像面に被写体画像P’を自動合焦させるのに用いられる。ズームレンズ1bはCCD2aに結像された被写体画像P’を拡大・縮小するのに用いられる。そのCCD2aからの被写体画像信号は、A/D変換回路2cを介して画素データとして順次前処理回路5に向けて出力される。前処理回路5はその画素データに、欠陥画素補正処理、黒レベル補正処理、白バランス補正処理等の前処理を施す。
前処理回路5により前処理が施された画素データは順次アドレスカウンタ6に入力される。アドレスカウンタ6は、CPU4から水平同期信号が入力されるたびに順次アドレスを生成し、変換用バッファメモリ7の各座標に前処理が施された画素データを書き込む。この変換用バッファメモリ7は前処理が施された画素データを順番に各座標に一時的に保存する。なお、ここで、座標というときは、撮像面の画素の配置に対応する横方向、縦方向の位置をいい、横方向を符号i、縦方向を符号jで表し、(i,j)は横方向にi番目、縦方向にj番目の位置を示し、iは1から640までの整数、jは1から480までの整数である。
その変換用バッファメモリ7に一時的に保存された各画素データは、読み出し回路8を介して補正処理回路9に入力される。補正処理回路9は、読み出し回路8により読み出された各画素データにデータベース10を用いて補正処理を施す。
データベース10には、変換用バッファメモリ7の各座標に一時的に記憶されている画素データに施すべき補正処理情報が記憶保存されている。この補正処理情報には、レンズの光学特性値として画像の歪み情報(ディストーション)、明るさ情報(シェーディング)、解像度情報(MTF)、収差情報等があるが、ここでは、オートフォーカスレンズ1a、ズームレンズ1bに基づく画像歪み情報の補正処理について説明する。なお、レンズ系の光学性能から画像の歪み量は予めわかるので、画像の歪み量から歪み前の各画像の位置を求め、データベース10に歪み処理データを保存することは容易である。
すなわち、データベース10は、変換用バッファメモリ7に一時保存された各画素データに施すべき補正処理情報を各画素毎に保存する画像変換テーブルとして機能する。補正処理回路9は、後述するように、画像変換テーブルに保存されている補正処理情報に基づいて変換用バッファメモリ7の各座標位置に保存されている各画素データに補正処理を施しかつ補正処理が施された各画素データを順次出力する画像データ変換処理部として機能する。
ここでは、矩形状の被写体Pがズームレンズ1b、オートフォーカスレンズ1aによって、たる型形状に歪んだ被写体画像P’になったとする。このたる型に歪んだ被写体画像P’を歪みのない被写体画像Q(破線で示す)に画像処理により補正する場合について、以下に説明する。
図6はそのたる型に歪んだ被写体画像P’の拡大図を示す。この図6において、符号G(i,j)は横方向にi番目で、縦方向にj番目の座標における画素データを示す。この図6では、説明の便宜のため、変換用バッファメモリ7の画素の個数を横に64個、縦に48個として描画しているが、実際の画素の個数はこれらの10倍である。しかしながら、説明の便宜のため、この変換用バッファメモリ7の個数を64×48個とし、符号iは1から64までの整数、符号jは1から48までの整数として説明する。
被写体画像P’がたる型に歪んでいる場合、周辺画像部分を構成する複数の光束は、撮像面上で同一の画素位置(座標位置)に集束する。中央部分を構成する複数の光束は、撮像面上でそれぞれ対応する各画素位置(各座標位置)に集束する。
この各画素データを変換用バッファメモリ7に書き込む場合、例えば、歪みがないとしたならば、変換用バッファメモリ7の座標(1,1)、(2,1)、(1,2)、(2,2)に位置すべき画素データG(1,1)、G(2,1)、G(1,2)、G(2,2)は、歪みがある場合、例えば、変換用バッファメモリ7の座標(8,7)に位置する。また、例えば、歪みがないとしたならば、変換用バッファメモリ7の座標(30,1)、(30,2)に位置すべき画素データは、歪みがある場合、座標(30,5)に位置する。また、光軸中心の被写体画像P’は歪みが小さいので、例えば、歪みがないとしたならばアドレス(30,24)の画素データG(30,24)は位置変化が少なく、例えば、歪みがあったときにアドレス(30,24)に位置する。
このような画素データについて、歪み補正を行うには、撮像により得られた座標(8,7)に存在する画素データG(8,7)について、座標(1,1)、(2,1)、(1,2)、(2,2)に変換する処理を行わなければならない。また、撮像により得られた座標(30,5)に位置する画素データG(30,5)については、座標(30,1)、(30,2)に変換する処理、撮像により得られた座標(30,24)に位置する画素データG(30,24)については座標(30,24)に変換する処理を行わなければならない。このような座標位置の変換処理を行うことにより、被写体画像P’の歪み補正を行うことができる。
そこで、データベース10には歪み補正処理後の座標(1,1)、(2,1)、(1,2)、(2,2)に位置すべき画素データはバッファメモリ7の画素データG(8,7)に対応する旨の座標変換情報、歪み補正処理後の座標(30,1)、(30,2)に位置すべき画素データはバッファメモリ7の画素データ(30,5)に対応する旨の座標変換情報、歪み補正処理後の座標(30,24)の画素データはバッファメモリ7のアドレス(30 ,24)に対応する旨の座標変換情報等が歪み情報として記録されている。
すなわち、データベース10には、各画素について、歪み補正処理後の座標(m,n)に位置すべき画素データG(m,n)と歪み補正処理前の座標(i,j)に位置すべき画素データG(i,j)とがそれぞれ座標変換情報を介して関連づけられている。
なお、一般的には、図7(a)ないし(c)に示すように、変換用バッファメモリ7に記憶されている歪み補正処理前の画素データG(i,j)を中心として、この画素データG(i,j)の近傍の画素データを用いて適宜明るさ情報等の補正処理を行うと共に、アドレス変換処理を行うことができるように、データベース10に、歪み補正処理後の座標(m,n)に位置すべき画素データに、座標変換処理情報と共に補正処理すべき演算処理情報を保存する構成が好ましいが、説明が複雑化するので、単純に、座標変換処理によって、歪み補正を行うものとして説明する。
従来、この種の補正処理を行うために、一画面分に相当する画素データが変換用バッファメモリ7に保存されるまで補正処理をまっていた。しかしながら、一画面分に相当する画素データが変換用バッファメモリ7に保存されるまで、補正処理を待つことにすると、補正処理が遅くなり、リアルタイム表示が損なわれる。また、メモリ容量が一画面分に相当する容量となるので、コストがかかると共にメモリの規模も大型化する。
これに対して、一画面分のメモリ容量よりも少ないメモリ容量の変換用バッファメモリ7を用いて、歪み補正処理を行うことにすれば、変換用バッファメモリ7の容量も減らすことができる。その一方、画像の歪みを修正するには、変換用バッファメモリ7に、歪み補正に用いる画素データが蓄積されるまで歪み補正処理を待つ必要がある。
例えば、図6に例示した変換用バッファメモリ7について、歪み補正処理を行うためには、例えば、座標(8,7)に歪み補正前の画素データG(8,7)が蓄積されるまで少なくとも待つ必要がある。この座標(8,7)に蓄積されている歪み処理前の画素データG(8,7)を用いて、歪み補正処理が実施されるからである。
他方、変換用バッファメモリ7のメモリ容量よりもCCD2aの撮像面の画素の個数、言い換えると、撮像により得られた画素データの個数は、変換用バッファメモリ7のメモリ容量よりも多いので、各画素データが変換用バッファメモリ7の最初の座標位置から順番に書き込まれて、各画素データが最後の座標位置に書き込まれた後に、後続して変換用バッファメモリ7に送られる後続の画素データは、変換用バッファメモリ7の最初の座標位置から再度順番に書き込まれることになる。
すなわち、変換用バッファメモリ7の各メモリの画素データは周期的に書き換えられるので、歪み補正処理前の画素データが、歪み補正処理に用いられる前に消去されないように、変換用バッファメモリ7のメモリ容量を設計する必要がある。
その歪み補正前の各画素データに変換処理を施すべき歪み補正処理情報は、ズームレンズ1bの倍率、オートフォーカスレンズ1aの合焦状態によって変化する。ここでは、ズームレンズ1bが広角(ワイド)、中間(ミーン)、望遠(テレ)の三段階で変倍されるものとし、ズームレンズ1bの倍率により歪み率が変化するものとする。例えば、望遠での歪み率が10%、中間での歪み率が20%、広角での歪み率が30%であるとし、CPU4はそのズームレンズ1bの変倍率に応じて、データベース10に保存すべき補正処理情報を変更する。
この変換用バッファメモリ7のメモリ容量としては、広角の場合、一画面分のX方向ラインを480本として144ライン相当程度のメモリ容量を用い、中間の場合、96ライン相当程度のメモリ容量を用い、望遠の場合、48ライン相当程度のメモリ容量を用いる。
ここでは、データベース10には広角に対応する補正処理情報が保存され、広角で撮像された被写体画像P’について画像処理を行うものとして説明する。
変換用バッファメモリ7のメモリの個数は、CCD2aの撮像面の画素数が横640×縦480個、歪み率が30%、画素データのビット数が12ビットであり、1バイトが8ビットであるので、広角で撮像された被写体画像の補正処理に用いる変換用バッファメモリ7のメモリ容量は、(640×480)×30×(12/8)バイトである。
歪み率が20%、10%の場合、歪み率30%のときの変換用バッファメモリ7のメモリ容量よりも少ないメモリ容量でも構わないので、CPU4は歪み率に応じて補正処理回路9に補正開始タイミングを変更制御する。
ここでは、変換用バッファメモリ7には歪み率30%に対応する補正処理情報がデータベース10に各画素毎に保存されているものとする。また、変換用バッファメモリ7のメモリ容量は、144ライン相当+αライン相当分とする。
このαライン相当分のメモリ容量は、上述の通り、歪み補正処理前の画素データが、歪み補正処理に用いられる前に消去されないように、変換用バッファメモリ7のメモリ容量を設計する必要があるからである。
ここでは、(144+α)ライン相当分のメモリ容量を用いることにする。すなわち、この変換用バッファメモリ7には、左上の(1,1)座標(ビット単位で表現した場合にはアドレス)から順に右に向かって(1,640 )座標に画素データが書き込まれた後、順次各ラインの各座標に画素データが書き込まれ、最後の座標(144+α,640)に画素データが書き込まれた後、最初の座標位置(1,1)から順に後続の画素データが書き込まれるものとする。
ここでは、(144+α)ライン相当分のメモリ容量を用いることにする。すなわち、この変換用バッファメモリ7には、左上の(1,1)座標(ビット単位で表現した場合にはアドレス)から順に右に向かって(1,640 )座標に画素データが書き込まれた後、順次各ラインの各座標に画素データが書き込まれ、最後の座標(144+α,640)に画素データが書き込まれた後、最初の座標位置(1,1)から順に後続の画素データが書き込まれるものとする。
補正処理回路9は、ここでは、CPU4の制御に基づいて、変換用バッファメモリ7の座標(144,640)に画素データが書き込まれた直後から、すなわち、(144×640)個の画素が変換用バッファメモリ7に記録された時点から補正処理を開始するものとする。また、CPU4は、変換用バッファメモリ7の(144+α)ライン相当分の座標への画素データの書き込み終了後に、変換用バッファメモリ7の最初の座標から画素データの書き込みを行う。
補正処理回路9は、CPU4の指示とデータベース10に保存されている補正処理情報とに基づいて、読み出し回路8を介して変換用バッファメモリ7の対応する座標位置の画素データG(i,j)を呼び出し、データベース10の歪み補正処理情報に従って歪み補正処理を実行する。
その補正処理回路9によって歪み補正処理が施された画素データは、書き込み回路11を介して表示用バッファメモリ12の座標位置に順次書き込まれる。例えば、図6に示す変換用バッファメモリ7を例に挙げて説明すると、図8に示す表示用バッファメモリ12の各座標位置には、データベース10の歪み補正処理情報に従って、表示用バッファメモリ12の座標位置(1,1)、(2,1)には変換用バッファメモリ7の画素データG(8,7)が書き込まれ、この歪み補正処理が表示用バッファメモリ12の第1ラインの各座標位置毎に順に左から右に実行され、例えば、座標位置(30,1)には変換用バッファメモリ7の画素データG(30,5)が書き込まれ、これらの処理が第1ラインの最後の座標位置まで実行された後、第2ラインに移行して、表示用バッファメモリ12の第2ラインの(2,1)、(2,2)に変換用バッファメモリ7の画素データG(8,7)が書き込まれ、これらの処理が第3ライン、第4ラインと順次実行され、144ライン+αラインの書き込みが終了した後、第1ラインの先頭の座標に戻って、順次同様の処理が実行される。
これら歪み補正処理を繰り返し実行することにより、歪み補正処理された画素データG(m,n)が表示用バッファメモリ12に保存される。この表示用バッファメモリ12に保存された画素データG(m,n)は、読み出し回路13を介して順次ビデオ出力されて、例えば、モニター画面(図示を略す)に表示される。
従来、図9(a)に示すように、撮像センサー(CCD2a)の垂直同期信号VDに同期して、カメラの露光処理が実行され、一画面分の画像データの転送後に、一画面分の変換用バッファメモリに蓄積された画素データを用いて歪み補正処理が実行される。撮像センサーとモニターは非同期で動作しているため、処理の終了した時点から表示を開始できるが、最短でも転送時間の1フレームと画像処理時間とがかかるため、例えば、露光終了からモニター画面への表示までのタイムラグは一フレーム半となっていた。
なお、図9(a)で画像処理と画像データ転送とは非同期で動作している。画像処理の内容によっては画像処理が非常に短時間で完了する場合がある。このような画像処理システム構成の場合、表示用画像データが上書きされて消されることが起こらないように、1画面分の表示用バッファメモリが必要になることがある。しかし、このような画像処理システム構成とすると、システムコストがアップしてしまう場合がある。
これに対して、この発明の実施の形態の場合、一画面分の表示用バッファメモリは不要であり、また、図9(b)に示すように、例えば、一画面分の画素データの転送処理を待たずに、表示処理が実行されるため、例えば、露光終了からモニター画面への表示までのタイムラグは一フレーム以下の時間に短縮できる。
このように、変換用バッファメモリ7のメモリ容量を一画面分相当のバッファメモリのメモリ容量よりも少ないメモリ容量とすることにより、カメラのコストダウン、省電力化を実現できる。また、レンズ系を大型化することなく画像の品質を向上させることができるので、小型化が要請されている車載用カメラ、監視用カメラ、医療用カメラへの利用が可能となる。
また、この発明の実施の形態によれば、変倍に伴う画像の光学特性値を画像処理系に負担させることによりレンズ系の設計に関する負担を軽減し、光学特性値のレンズ系の設計に関する負担軽減分を画像処理系に負担させることより総合的に画像品質の維持を図ることができる。
以上、発明の実施の形態では、被写体画像がたる型に歪んだ場合について説明したが、本発明は、被写体画像が糸巻き型に歪んだ場合についても適用できる。
また、この発明の実施の形態では、表示用バッファメモリ12を設ける構成として説明したが、表示用バッファメモリ12は必ずしもなくとも良い。
更に、この発明の実施の形態では、信号処理IC部3内に変換用バッファメモリ7、表示用バッファメモリ12を設ける構成として説明したが、これらのバッファメモリは信号処理IC部3の外部に設けても良い。
2a…CCD
7…変換用バッファメモリ
9…補正処理回路
10…データベース
7…変換用バッファメモリ
9…補正処理回路
10…データベース
Claims (8)
- 撮像センサーを有しかつ被写体を撮像して前記撮像センサーから出力された被写体画像信号を画素データとして出力する撮像系と、前記画素データを各座標位置に順次一時保存する変換用バッファメモリと、前記変換用バッファメモリに一時保存された各画素データに施すべき補正処理情報を各画素毎に保存する画像変換テーブルと、前記画像変換テーブルに保存されている補正処理情報に基づいて前記変換用バッファメモリの各座標位置に保存されている各画素データに補正処理を施しかつ補正処理が施された各画素データを順次出力する画像データ変換処理部とを備え、前記画像変換テーブルに保存されている補正処理情報が前記撮像系の変倍に伴って変更されることを特徴とする画像処理システム。
- 前記画像データ変換処理部により補正処理された補正処理済み画素データに基づき被写体画像を表示するために、前記各補正処理済み画素データを一時的に保存する表示用バッファメモリを備えていることを特徴とする請求項1に記載の画像処理システム。
- 前記変換用バッファメモリのメモリ容量が一画面分のバッファメモリの容量よりも少ないことを特徴とする請求項1に記載の画像処理システム。
- 前記補正処理情報が光学特性値としての歪み情報であることを特徴とする請求項1に記載の画像処理システム。
- 前記補正処理情報が歪み情報と明るさ情報と解像度情報と色収差情報と色倍率収差情報とのうちの少なくとも一つ以上からなることを特徴とする請求項1に記載の画像処理システム。
- 前記変換用バッファメモリと前記撮像センサーとの間に、前記各画素データに欠陥画素補正、黒レベル補正、ホワイトバランス補正等の前処理を行う前処理部が設けられていることを特徴とする請求項1に記載の画像処理システム。
- 前記撮像センサーがCCDセンサー又はCMOSセンサーであることを特徴とする請求項1に記載の画像処理システム。
- 請求項1に記載の画像処理システムを有するカメラ。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008005878A JP2009169601A (ja) | 2008-01-15 | 2008-01-15 | 画像処理システム及びこの画像処理システムを有するカメラ |
US12/341,646 US20090180000A1 (en) | 2008-01-15 | 2008-12-22 | Image processing system and camera including the same |
EP09250014A EP2081375A3 (en) | 2008-01-15 | 2009-01-05 | Image processing system and camera including the same |
CN2009100032092A CN101489021B (zh) | 2008-01-15 | 2009-01-15 | 图像处理系统和包含该图像处理系统的相机 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008005878A JP2009169601A (ja) | 2008-01-15 | 2008-01-15 | 画像処理システム及びこの画像処理システムを有するカメラ |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009169601A true JP2009169601A (ja) | 2009-07-30 |
Family
ID=40427452
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008005878A Pending JP2009169601A (ja) | 2008-01-15 | 2008-01-15 | 画像処理システム及びこの画像処理システムを有するカメラ |
Country Status (4)
Country | Link |
---|---|
US (1) | US20090180000A1 (ja) |
EP (1) | EP2081375A3 (ja) |
JP (1) | JP2009169601A (ja) |
CN (1) | CN101489021B (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012204856A (ja) * | 2011-03-23 | 2012-10-22 | Toshiba Corp | 画像処理方法及びカメラモジュール |
JP2021519954A (ja) * | 2018-04-26 | 2021-08-12 | テンエントゥ カンパニー,リミテッド | 広角映像提供方法 |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5347707B2 (ja) * | 2008-08-20 | 2013-11-20 | 株式会社リコー | 撮像装置および撮像方法 |
JP5223686B2 (ja) * | 2009-01-07 | 2013-06-26 | 株式会社リコー | 撮像装置および撮像方法 |
JP5407600B2 (ja) * | 2009-07-01 | 2014-02-05 | 株式会社ニコン | 画像処理装置、画像処理方法及び電子カメラ |
JP5508164B2 (ja) * | 2010-06-25 | 2014-05-28 | キヤノン株式会社 | 撮像装置及びその制御方法 |
US8952973B2 (en) | 2012-07-11 | 2015-02-10 | Samsung Electronics Co., Ltd. | Image signal processor and method of operating the same |
JP6565326B2 (ja) * | 2014-08-11 | 2019-08-28 | セイコーエプソン株式会社 | 撮像表示装置及びその制御方法 |
JP6601020B2 (ja) * | 2014-08-11 | 2019-11-06 | セイコーエプソン株式会社 | 撮像表示装置 |
JP6304391B2 (ja) | 2014-10-17 | 2018-04-04 | 株式会社リコー | 車両用画像表示システム |
CN116881180A (zh) * | 2017-05-19 | 2023-10-13 | 莫维迪乌斯有限公司 | 用于当取回像素核时降低存储器延迟的方法、系统和设备 |
JP7135339B2 (ja) * | 2018-02-28 | 2022-09-13 | 株式会社デンソー | 車両に搭載される撮像システム、対象物識別装置、および対象物識別方法 |
CN108803603B (zh) * | 2018-06-05 | 2021-11-30 | 广州市远能物流自动化设备科技有限公司 | 基于编码图像的agv小车对接定位方法及agv小车 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11176749A (ja) * | 1997-10-09 | 1999-07-02 | Canon Inc | 露光方法およびデバイス製造方法 |
US6603885B1 (en) * | 1998-04-30 | 2003-08-05 | Fuji Photo Film Co., Ltd. | Image processing method and apparatus |
US6747757B1 (en) * | 1998-05-20 | 2004-06-08 | Fuji Photo Film Co., Ltd. | Image processing method and apparatus |
JP3971246B2 (ja) * | 2002-06-03 | 2007-09-05 | 富士フイルム株式会社 | デジタル撮影装置 |
JP4144292B2 (ja) * | 2002-08-20 | 2008-09-03 | ソニー株式会社 | 画像処理装置と画像処理システム及び画像処理方法 |
US20040239782A1 (en) * | 2003-05-30 | 2004-12-02 | William Equitz | System and method for efficient improvement of image quality in cameras |
JP2004362069A (ja) * | 2003-06-02 | 2004-12-24 | Olympus Corp | 画像処理装置 |
JP4104571B2 (ja) * | 2004-03-29 | 2008-06-18 | 三洋電機株式会社 | 歪曲補正装置及びこの歪曲補正装置を備えた撮像装置 |
US7750956B2 (en) * | 2005-11-09 | 2010-07-06 | Nvidia Corporation | Using a graphics processing unit to correct video and audio data |
JP2007156795A (ja) | 2005-12-05 | 2007-06-21 | Nikon Corp | 画像変換装置 |
US8503817B2 (en) * | 2006-03-01 | 2013-08-06 | Panasonic Corporation | Apparatus, method and imaging apparatus for correcting distortion of image data using interpolation |
US7656425B2 (en) * | 2006-03-31 | 2010-02-02 | Mitutoyo Corporation | Robust field of view distortion calibration |
JP4702233B2 (ja) * | 2006-09-11 | 2011-06-15 | ソニー株式会社 | 画像データ処理装置および画像データ処理方法 |
JP4860488B2 (ja) * | 2007-01-04 | 2012-01-25 | ルネサスエレクトロニクス株式会社 | 画像表示制御装置 |
-
2008
- 2008-01-15 JP JP2008005878A patent/JP2009169601A/ja active Pending
- 2008-12-22 US US12/341,646 patent/US20090180000A1/en not_active Abandoned
-
2009
- 2009-01-05 EP EP09250014A patent/EP2081375A3/en not_active Ceased
- 2009-01-15 CN CN2009100032092A patent/CN101489021B/zh not_active Expired - Fee Related
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012204856A (ja) * | 2011-03-23 | 2012-10-22 | Toshiba Corp | 画像処理方法及びカメラモジュール |
JP2021519954A (ja) * | 2018-04-26 | 2021-08-12 | テンエントゥ カンパニー,リミテッド | 広角映像提供方法 |
JP7231281B2 (ja) | 2018-04-26 | 2023-03-01 | テンエントゥ カンパニー,リミテッド | 広角映像提供方法 |
Also Published As
Publication number | Publication date |
---|---|
US20090180000A1 (en) | 2009-07-16 |
CN101489021B (zh) | 2011-09-14 |
EP2081375A3 (en) | 2009-09-02 |
CN101489021A (zh) | 2009-07-22 |
EP2081375A2 (en) | 2009-07-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2009169601A (ja) | 画像処理システム及びこの画像処理システムを有するカメラ | |
US8643958B2 (en) | Wide angle lens and imaging device | |
JP4624065B2 (ja) | 撮像装置 | |
US8964043B2 (en) | Imaging apparatus and control method thereof | |
KR100618014B1 (ko) | 촬상 장치 | |
JP6041651B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
US7583280B2 (en) | Image display device | |
JP2016025515A (ja) | 撮像装置、撮像表示装置及びその制御方法 | |
US20110109774A1 (en) | Imaging apparatus and imaging method | |
JP4028306B2 (ja) | デジタル撮像装置 | |
JP2015053644A (ja) | 撮像装置 | |
CN103777312A (zh) | 透镜系统 | |
JP2012033007A (ja) | 画像処理装置および画像処理方法 | |
JP2007267379A (ja) | 画像の歪曲補正を行う画像処理装置、撮像装置及び画像の歪曲補正方法 | |
JP3937924B2 (ja) | 撮像装置及びその制御方法 | |
JP5959194B2 (ja) | 撮像装置 | |
JP6565326B2 (ja) | 撮像表示装置及びその制御方法 | |
JP2984954B2 (ja) | 撮像装置 | |
JPH0896118A (ja) | 車両用周囲状況表示装置 | |
JP2007189361A (ja) | イメージセンサおよびこれを用いたカメラ | |
JP2010028758A (ja) | 画像処理装置及び方法、プログラム、並びに撮像装置 | |
US8319794B2 (en) | Image display control apparatus, method for controlling the same, and program | |
JP2010191390A (ja) | 撮像装置 | |
JP2009239460A (ja) | 焦点制御方法、測距装置、撮像装置 | |
JP4868202B2 (ja) | ズームレンズ及び撮像装置 |