JP5732886B2 - 撮像装置及び画像補正方法 - Google Patents
撮像装置及び画像補正方法 Download PDFInfo
- Publication number
- JP5732886B2 JP5732886B2 JP2011027743A JP2011027743A JP5732886B2 JP 5732886 B2 JP5732886 B2 JP 5732886B2 JP 2011027743 A JP2011027743 A JP 2011027743A JP 2011027743 A JP2011027743 A JP 2011027743A JP 5732886 B2 JP5732886 B2 JP 5732886B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- processing
- image data
- optical system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims description 59
- 238000000034 method Methods 0.000 title claims description 24
- 238000003702 image correction Methods 0.000 title claims description 21
- 238000012937 correction Methods 0.000 claims description 66
- 238000012545 processing Methods 0.000 claims description 66
- 230000003287 optical effect Effects 0.000 claims description 34
- 238000006243 chemical reaction Methods 0.000 claims description 6
- 230000006870 function Effects 0.000 description 10
- 230000000875 corresponding effect Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 230000005236 sound signal Effects 0.000 description 6
- 230000001276 controlling effect Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000006073 displacement reaction Methods 0.000 description 3
- 101000857682 Homo sapiens Runt-related transcription factor 2 Proteins 0.000 description 2
- 102100025368 Runt-related transcription factor 2 Human genes 0.000 description 2
- 241000226585 Antennaria plantaginifolia Species 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000006837 decompression Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Landscapes
- Details Of Cameras Including Film Mechanisms (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Description
かかる撮像装置においては、レンズを含む光学系と、撮像素子との間の相対的な位置ズレや、回転ズレがあると、正確な画像データを取得することが出来ない。
従って、精度の高い画像データを得るためには、これらのズレを補正する必要がある。また、レンズの特性によって画像に歪みが生じることがあり、これもまた補正を行う必要がある。
これらのズレや歪みが正しく補正されていないと、取得される画像の精度を著しく低下させてしまい、特に、2系統の光学系によってステレオ画像を取得するステレオカメラなどでは、取得された画像間の測距精度を著しく低下させてしまう恐れがある。
これらの補正処理は、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)などの比較的高速なハードウェアによって実現されている。
上記のLUTは、予め行われるキャリブレーション作業によって求めた入力画像データと出力画像データとの位置関係を示したテーブルであり、例えば既知の画像を撮像装置で撮影し、レンズの特性や、レンズと撮像素子との間の位置ズレや、回転ズレを含んだ、実画像の各画素に対する理想画像の各画素の対応関係を表している。
入射光は、レンズを含む光学系200を通してイメージセンサ201に集光され、ディジタル画像信号に変換される。なお、イメージセンサ201は、CCD(Charge Coupled Device)イメージセンサや、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等である。イメージセンサ201によって取り込まれたディジタル画像データは、FPGA203等のハードウェアに入力され、ズレや歪みの補正を含む各種画像処理を施されて出力される。
ここでは画像処理ブロックとしてFPGAを例としているが、上記のASICやDSP等によって実現される構成でも構わない。
画像処理ブロックとしてFPGAを用いる場合、通常ROM(Read Only Memory)204等の不揮発性メモリにコンフィグレーションデータを格納しており、FPGA203に電源を供給し始めてすぐに、コンフィギュレーションと呼ばれる動作が実行されることによって、内部回路を構成する(FPGAは、製造後に内部の論理回路を再構成可能なプログラマブルな集積回路である)。
また、FPGA203により構成される回路には、イメージセンサ201と、レンズを含む光学系200との相対的な位置ズレや、回転ズレを補正(以後、歪み補正処理と称する)する補正処理ブロックが含まれている。
補正処理ブロックを有するFPGA203は、イメージセンサ201から画像データと共に入力される垂直同期信号及び水平同期信号と、LUTデータを使用することによって、入力画像データに対して歪み補正処理を行う。
ここで行われる歪み補正処理は、イメージセンサ201から入力される各画素に対してLUTを参照して補正を行うことになるため、RAMなどの高速にアクセスが可能なメモリに格納しておく必要がある。
従って、ROM204に格納されていたLUTデータは、電源投入後に一旦RAM(Random Access Memory)205にコピーされ、歪み補正処理時にはRAM205に格納されたLUTを参照することで、高速に歪み補正処理を実行することができる。
なお、RAM205としては、SRAM(Static Random Access Memory)やDRAM(Dynamic Random Access Memory)、SDRAM(Synchronous DRAM)などが例として挙げられる。
FPGA203から出力された補正後画像データは、図示しない後段の処理ブロックを介する等して、撮像装置外部に出力される。
例えば、DAC(Digital to Analog Converter)によってアナログ映像信号に変換してディスプレイ装置に出力される、或いはディジタル信号として認識処理装置などに出力され認識処理を施す、などである。
しかしながら、上記のようにLUTを用いる補正技術では、補正処理時に高速にLUTを参照するため、LUTを格納しておく高速アクセス可能なメモリ(例えばSRAM)が必要であり、コストが高くなるという問題があった。
補正式は、それぞれの撮像装置個体によって異なるため、例えばFPGAを用いる場合には、それぞれのカメラに対応したFPGA内部回路を生成する必要があり、その作業自体が増えるということや、FPGA内部回路を生成するのに時間がかかるなどの問題があった。
それに対し、特許文献1には、複数画素を複数理想位置に対応付ける歪み情報を作成し、複数画素を複数差分に対応付けるルックアップテーブルを歪み情報に基づいて作成することにより、ルックアップテーブルの情報量を小さくする技術が開示されている。
そこで、本発明は、歪み補正を行う際にLUTを使用しないことで、SRAM等の高速かつ高コストなメモリを必要とせず、撮像素子と、光学系との相対的な位置ズレや回転ズレを低コストに補正可能な歪み補正方法、及び撮像装置を提供することを目的とする。
本発明によれば、撮像部と、光学系との相対的な位置ズレや回転ズレを低コストに補正可能な歪み撮像装置とすることが出来る。
また、請求項2の発明は、前記画像補正部は、プログラム可能な集積回路よりなり、前記不揮発性メモリは、前記集積回路に内部回路を生成するための設定情報及び前記処理パラメータを保持する請求項1に記載の撮像装置を特徴とする。
本発明によれば、撮像部と、光学系との相対的な位置ズレや回転ズレを低コストに補正することが出来る。
このデジタルカメラは、被写体を撮影するレリーズシャタSW1と、各撮影モードを指示するモードダイアルSW2と、フィルム枚数等を表示するサブLCD1と、メモリカード或いは電池を交換するときに開閉するカード/電池蓋2と、被写体を照射するストロボ発光部3と、被写体を覗いてカメラアングルを決定する光学ファインダ4と、被写体の距離を測定する測距ユニット5と、リモコンからの信号を受光するリモコン受光部6と、レンズ群を収納する鏡胴ユニット7と、オートフォーカスが動作中に点灯するAFLED8と、ストロボが充電中に点灯するストロボLED9と、撮影画像を表示するLCDモニタ10と、電池電源をON・OFFする電源SW13と、ZOOM・SW(WIDE)SW3と、ZOOM・SW(TELE)SW4と、セルフタイマ/削除SW・SW5と、MENU・SW・SW6と、上/ストロボSW・SW7と、右SW・SW8と、DISPLAY・SW・SW9と、下/マクロSW・SW01と、左/画像確認SW・SW11と、OK・SW・SW12とを備えて構成される。
図3に示すように、本発明の撮像装置は、被写体の光学画像が入射するレンズ15を含む光学系と、レンズ15に入射した光を電子的な情報に変換(光電変換)して画像データとするCCDなどのイメージセンサ18(図2のCCD101に相当)と、イメージセンサ18から入力される画像データに対し、歪み補正を含む画像処理を施す画像処理部としてのFPGA20(図2の画像処理ブロック130に相当)と、FPGA20に供給するコンフィグレーションデータ、処理パラメータを格納したROM30(図2のRAM108に相当)と、を備えている。
図3から分かるように、本発明の撮像装置においては、図7に示したLUTを用いて歪み補正を行う従来の構成とは異なり、歪み補正に際してRAMを使用しない構成となっている。
本発明における歪み補正処理は、LUTによる歪み補正処理の代わりに、歪み補正式を用いた方式を使用している。
放射歪みは、通常、主に2類型(糸巻型歪曲、たる型歪曲)に分類可能である。
これらの歪みパターンは、歪みモデルに基づく幾何学変換により補正が可能である。
例えば、2次元光学系のための歪み補正モデル関数(歪み補正式)は、例えば、下式(1)に示すような多項式関数によって表現される。
(式1)
但し、式(1)において、(x,y)は、処理される画像信号の座標であり、Dx(x,y)は、x、yそれぞれの座標系の多項幾何学(座標)変換式であり、cpq、dpq、は、多項式関数の係数であり、Nx、Nyは、多項式の次数であり、p及びqは多項式関数の項である。
なお、多項式関数は、例えば以下のような前方差分演算子を用いて計算出来る。
但し、この前方差分演算子において、fnは、nth点における関数fの値であり、Δfnは、nth点における、関数の一次前方差分であり、Δkfnは、nth点における関数のk次前方差分である。
図4に示すように、画像処理部としてのFPGA20は、イメージセンサ18から入力される画像データに対し歪み補正を行う歪み補正部21と、ROM30に格納される処理パラメータ32(図5)をメモリI/F24を介して取得して歪み補正部21に対してパラメータを設定するパラメータ設定部22と、ROM30に格納されるコンフィグレーションデータ31(図5)により、FPGAの内部回路の生成を行うコンフィグレーション部23と、を備えている。
従来の方式と同様に、レンズ15を含む光学系を介して撮像素子201に集光された入射光は、撮像素子(イメージセンサ)においてディジタル画像信号に変換されFPGA20に入力される。
FPGA20は、ROM30からコンフィグレーションデータ31を読み込むことに内部回路を構成し、動作を開始する。
ROM30は、例えばSPI(Serial Peripheral Interface)プロトコルに準拠したフラッシュメモリや、EEPROM(Electrically Erasable Programmable Read-Only Memory)など、電気的に書き換え可能なメモリである。
FPGAコンフィギュレーションが終了した後、パラメータ設定部22はメモリI/F24を介してROM30に格納されている処理パラメータ32を読み込む。
読み込まれた処理パラメータ32は、歪み補正部21内の歪み補正式の係数に関連するパラメータに設定される。
パラメータは、実際にはFPGAのコントローラに設定するパラメータである。
なお、設定される処理パラメータの実体は、FPGA内の内部レジスタや内部メモリなどの記憶部などに記憶される。
すなわち、この処理パラメータが設定されることにより、それぞれの撮像装置における歪み補正式が出来上がることになる。
歪み補正式の処理パラメータ32が設定されたら、イメージセンサ18から入力された画像データに対して歪み補正式を用いた歪み補正処理が施され、歪み補正後画像データがFPGA20から出力される。
また、歪み補正式の係数に関わるパラメータのみをFPGA起動後に設定できるので、ROM30に格納された処理パラメータのみを書き替えることで、それぞれのカメラに対応した歪み補正式を生成することができる。
また、上述ではFPGA20を用いた方式で説明したが、上述のASICやDSPなどで実現しても構わない。
FPGAは内部回路を再構成可能なデバイスであるが、ASICは再構成が不可能である。そのため、一旦ASIC内の歪み補正式が回路に組み込まれてしまうと、その歪み補正式は変更することはできない。つまり、個々のカメラに特有の歪み補正式に関わるパラメータを変更できない。
本発明を、ASICを用いた構成に適用した場合、ROM内の処理パラメータのみ書き替えれば良いため、FPGAを用いる場合に対して、その効果は高い。
まず、コンフィグレーション部23が、ROM30に格納されるコンフィグレーションデータ31により、FPGAのコンフィグレーション(内部回路の生成)を行う(ステップS101)。
次に、パラメータ設定部22が、ROM30に格納される処理パラメータ32を読み込み(ステップS102)、歪み補正部21に処理パラメータ32を設定する(ステップS103)。
処理パラメータの設定が完了すると(ステップS104でYes)、歪み補正部21は、設定された処理パラメータに従って、入力画像データの補正を開始する(ステップS105)。
また、画像補正に用いる補正式に設定する係数パラメータをROM等の不揮発性メモリに格納しておき、それを読み込むことで、それぞれの撮像装置に対応した回路を生成せずに、それぞれの撮像装置特有の補正式を実現することが出来る。
従って、それぞれのカメラ固体に応じて回路生成する手間を削減することができる。
また、FPGAの内部回路を生成するのに時間がかからないようにすることが出来る。
Claims (3)
- 被写体からの光が入射する光学系と、
前記光学系に入射した光を光電変換して前記被写体の画像データを取得する撮像部と、
前記撮像部により取得された前記画像データを処理する画像処理部と、
書き換え可能な不揮発性メモリと、を備える撮像装置において、
前記画像処理部は、個別の撮像装置ごとの前記撮像部と前記光学系との位置ズレ及び/又は回転ズレに起因する前記画像データの画像歪みを補正するための、所定の近似多項式に基づいて構成された画像補正部を備え、
前記不揮発性メモリは、前記画像補正部によって実行される補正動作を制御するための処理パラメータとして、校正により特定した個別の撮像装置ごとの前記画像歪みに対応した前記近似多項式の係数を格納しており、
前記画像補正部は、前記不揮発性メモリから読出した前記処理パラメータを適用した前記近似多項式に基づいて、個別の撮像装置ごとの前記撮像部と前記光学系との位置ズレ及び/又は回転ズレに起因する前記画像データの画像歪みを補正することを特徴とする撮像装置。 - 前記画像補正部は、プログラム可能な集積回路よりなり、前記不揮発性メモリは、前記集積回路に内部回路を生成するための設定情報及び前記処理パラメータを保持することを特徴とする請求項1に記載の撮像装置。
- 被写体からの光が入射する光学系と、前記光学系に入射した光を光電変換して前記被写体の画像データを取得する撮像部と、前記撮像部により取得された前記画像データを処理する画像処理部と、前記画像データが持つ画像歪みを補正するために、所定の近似多項式に基づいて前記画像データを補正する画像補正部と、書き換え可能な不揮発性メモリと、を備える撮像装置における画像補正方法であって、
前記画像補正部によって実行される補正動作を制御するための処理パラメータとして、校正により特定した個別の撮像装置ごとの前記画像歪みに対応した前記近似多項式の係数を前記不揮発性メモリに格納する工程と、
前記不揮発性メモリから読出した前記処理パラメータを適用した前記近似多項式に基づいて、個別の撮像装置ごとの前記撮像部と前記光学系との位置ズレ及び/又は回転ズレに起因する前記画像データの画像歪みを補正する工程と、
を含むことを特徴とする画像補正方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011027743A JP5732886B2 (ja) | 2011-02-10 | 2011-02-10 | 撮像装置及び画像補正方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011027743A JP5732886B2 (ja) | 2011-02-10 | 2011-02-10 | 撮像装置及び画像補正方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012169780A JP2012169780A (ja) | 2012-09-06 |
JP5732886B2 true JP5732886B2 (ja) | 2015-06-10 |
Family
ID=46973510
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011027743A Active JP5732886B2 (ja) | 2011-02-10 | 2011-02-10 | 撮像装置及び画像補正方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5732886B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6355489B2 (ja) * | 2014-09-01 | 2018-07-11 | キヤノン株式会社 | 撮像装置 |
CN110211039B (zh) * | 2019-04-29 | 2021-03-23 | 西安电子科技大学 | 一种图像处理方法及其装置 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11252431A (ja) * | 1998-02-27 | 1999-09-17 | Kyocera Corp | ディストーション補正機能を有するディジタル撮像装置 |
JPH11250239A (ja) * | 1998-02-27 | 1999-09-17 | Kyocera Corp | Yuvデータによりディストーション補正を行うディジタル撮像装置 |
JPH11313250A (ja) * | 1998-04-28 | 1999-11-09 | Yasufumi Yamagata | 交換レンズ対応カメラ |
JP2002359771A (ja) * | 2001-06-01 | 2002-12-13 | Fuji Photo Film Co Ltd | 撮像装置、画像処理装置、画像処理方法、及びプログラム |
JP2008061172A (ja) * | 2006-09-04 | 2008-03-13 | Sony Corp | 画像処理装置、画像処理方法、そのブログラム及びそのプログラムを記録した記録媒体 |
JP2008252522A (ja) * | 2007-03-30 | 2008-10-16 | Hoya Corp | カメラ |
JP5450984B2 (ja) * | 2008-06-02 | 2014-03-26 | キヤノン株式会社 | 情報処理装置、撮像装置、制御方法、及びプログラム |
JP2010033336A (ja) * | 2008-07-29 | 2010-02-12 | Fujitsu Ltd | 信号処理装置及び信号処理方法 |
-
2011
- 2011-02-10 JP JP2011027743A patent/JP5732886B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2012169780A (ja) | 2012-09-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7391447B2 (en) | Method and apparatus for removing noise from a digital image | |
JP2006033850A (ja) | 撮像素子駆動制御とメモリ読み取り制御を用いたハンドシェイク補正方法および撮影装置 | |
JP2005347811A (ja) | ホワイトバランス補正装置及びホワイトバランス補正方法、プログラム、電子カメラ装置 | |
JP2010141583A (ja) | 撮像装置、画像データ補正方法、プログラム及び記録媒体 | |
JP6355397B2 (ja) | 固体撮像素子その制御方法、電子機器、プログラム、記憶媒体 | |
JP2011205395A (ja) | 撮像装置、及びプログラム | |
JP2018148512A (ja) | 撮像装置と撮像装置の制御方法、及びプログラム | |
US20110187903A1 (en) | Digital photographing apparatus for correcting image distortion and image distortion correcting method thereof | |
JP5732886B2 (ja) | 撮像装置及び画像補正方法 | |
JP5668364B2 (ja) | 撮像装置、撮像方法並びにプログラム | |
JP4118766B2 (ja) | 撮像装置および撮像方法 | |
JP2010021649A (ja) | カメラシステム、及びテーブル調整方法 | |
JP2008078828A (ja) | 撮像装置 | |
JP4714561B2 (ja) | 撮像装置および撮像方法 | |
JP2011029879A (ja) | 撮像装置および撮像方法 | |
JP2013027022A (ja) | 撮像装置およびタイミング信号制御方法 | |
JP5799690B2 (ja) | 撮像装置及びその制御方法 | |
JP2005277618A (ja) | 撮像装置、シェーディング補正装置、及びシェーディング補正方法 | |
JP4514138B2 (ja) | 固体撮像素子の駆動方法およびデジタルカメラ | |
JP6083968B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
JP5641411B2 (ja) | 撮像装置、電子機器、画像処理システムおよびコンピュータ読み取り可能な記録媒体 | |
JP2009260567A (ja) | 撮像装置 | |
US20160057350A1 (en) | Imaging apparatus, image processing method, and non-transitory computer-readable medium | |
JP2010204303A (ja) | 撮像装置 | |
JP2010197524A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140116 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140827 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140902 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150317 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150330 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5732886 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |