JP2007156795A - 画像変換装置 - Google Patents
画像変換装置 Download PDFInfo
- Publication number
- JP2007156795A JP2007156795A JP2005350698A JP2005350698A JP2007156795A JP 2007156795 A JP2007156795 A JP 2007156795A JP 2005350698 A JP2005350698 A JP 2005350698A JP 2005350698 A JP2005350698 A JP 2005350698A JP 2007156795 A JP2007156795 A JP 2007156795A
- Authority
- JP
- Japan
- Prior art keywords
- image
- buffer memory
- conversion
- control circuit
- image conversion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000006243 chemical reaction Methods 0.000 title claims abstract description 55
- 238000003384 imaging method Methods 0.000 claims abstract description 3
- 241000251468 Actinopterygii Species 0.000 abstract 2
- 238000000034 method Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 3
- 125000004122 cyclic group Chemical group 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Abstract
【課題】 小さな容量のバッファメモリしか必要が無く、かつ、高速で画像変換が可能な画像変換装置を提供する。
【解決手段】 魚眼画像データを入力し、中心射影画像データを出力する画像変換用バッファメモリ3と、そのバッファメモリ3の書き込み制御回路4と、前記バッファメモリの書き込み制御回路に同期して駆動される前記バッファメモリの読み出し制御回路5と、画像変換用参照座標を格納するメモリ6を備え、前記魚眼画像データの入力が撮像装置をラスタスキャンすることによって行われ、前記バッファメモリ3からの読み出しが、読み出して形成される画像データがラスタスキャンによって表示されるように行われ、前記バッファメモリ3のサイズが、前記ラスタスキャンのライン方向の画素数と、ラインに垂直な方向の、画像変換の最大移動量の和との積以上であり、画像全体に対応するメモリサイズより小さいことを特徴とする画像変換装置。
【選択図】 図1
【解決手段】 魚眼画像データを入力し、中心射影画像データを出力する画像変換用バッファメモリ3と、そのバッファメモリ3の書き込み制御回路4と、前記バッファメモリの書き込み制御回路に同期して駆動される前記バッファメモリの読み出し制御回路5と、画像変換用参照座標を格納するメモリ6を備え、前記魚眼画像データの入力が撮像装置をラスタスキャンすることによって行われ、前記バッファメモリ3からの読み出しが、読み出して形成される画像データがラスタスキャンによって表示されるように行われ、前記バッファメモリ3のサイズが、前記ラスタスキャンのライン方向の画素数と、ラインに垂直な方向の、画像変換の最大移動量の和との積以上であり、画像全体に対応するメモリサイズより小さいことを特徴とする画像変換装置。
【選択図】 図1
Description
本発明は画像変換装置に関するものである。
魚眼レンズで撮影された等距離射影の画像を、歪みのない中心射影画像に変換する装置の概要のブロック図を図1に示す。1は魚眼レンズ、2はCMOSセンサを表している。3は画像変換を行うために画像データを貯めるデュアルポートRAMからなるバッファ、4はそのバッファに画像データを書き込むアドレス及びタイミングを生成する書き込み制御回路、5はバッファから画像データを読み出すアドレス及びタイミングを生成する読み出し制御回路、6は等距離射影から中心射影に変換する際の座標変換情報を格納するメモリを表している。
以下、上記回路の動作について説明する。参照座標メモリ6には、通常中心射影座標を表示するために参照する、入力画像座標(等距離射影座標)が格納されている。バッファ3が横X、縦YのX*Yピクセルの容量を持つとし、各ピクセルの画像データをA(i,j)で表す。参照座標メモリ6も横X、縦Yに対応する容量を有する。参照座標メモリ6のデータをB(m,n)で表す。
B(m,n)の座標(m,n)は、画像変換された後の各ピクセルの画像の座標を表し、B(m,n)には、変換後の座標(m,n)に対応する変換前の座標(i,j)の値が書き込まれている。よって、バッファ3に変換前の入力データを全部読み込んだ後、m=1〜X、n=1〜Yの組合せについて、(m,n)の座標を持つピクセルに、B(m,n)で決定される(i,j)に対応するバッファのピクセル格納されている画像データA(i,j)を書き込んで行くことにより、画像変換を行うことができる。
しかしながら、上述のような方法では、全画像データを蓄積するだけの容量を有するバッファ3が必要となり、バッファ3の容量が大きくなるという問題点がある。又、全画像をバッファ3に読み込むまで画像変換処理ができず、画像変換に時間がかかるという問題点もある。
本発明はこのような事情に鑑みてなされたもので、小さな容量のバッファメモリしか必要が無く、かつ、高速で画像変換が可能な画像変換装置を提供することを課題とする。
前記課題を解決するための第1の手段は、魚眼レンズを用いて撮像された魚眼画像を歪みの小さい平面画像に変換するための画像変換装置であって、魚眼画像データ(等距離射影画像データ)を入力し、中心射影画像データを出力する画像変換用バッファメモリと、そのバッファメモリの書き込み制御回路と、前記バッファメモリの書き込み制御回路に同期して駆動される前記バッファメモリの読み出し制御回路と、画像変換用参照座標を格納するメモリを備え、前記魚眼画像データの入力が撮像装置をラスタスキャンすることによって行われ、前記バッファメモリからの読み出しが、読み出して形成される画像データがラスタスキャンによって表示されるように行われ、前記バッファメモリのサイズが、前記ラスタスキャンのライン方向の画素数と、ラインに垂直な方向の、画像変換の最大移動量の和との積以上であり、画像全体に対応するメモリサイズより小さいことを特徴とする画像変換装置である。
前記課題を解決するための第2の手段は、前記第1の手段であって、前記読み出し制御回路の待ち時間(レイテンシ)を、前記ラスタスキャンのライン方向の画素数と、画像中央のデータの取り込みから画像取り込み終了時までの間の、ラインに垂直な方向の、画像変換の最大移動量との積によって決定することを特徴とするものである。
前記課題を解決するための第3の手段は、前記第1の手段又は第2の手段であって、前記画像変換用参照座標を格納するメモリに、変換前の等距離射影画像座標と変換後の中心射影画像座標の差分値を格納することを特徴とするものである。
本発明によれば、小さな容量のバッファメモリしか必要が無く、かつ、高速で画像変換が可能な画像変換装置を提供することができる。
以下、本発明の実施の形態について説明するが、それに先立ち、本発明の基本的な考え方を説明する。図2は1枚の画像を示し、その幅がwidthピクセル、縦がHightピクセルで構成されているとする。以下、図に示すように座標が(x,y)で示されるデータを1次元データとして、y*width+x番目のデータとして表すことがある。このようにすると、たとえば図1のバッファ3が1次元であるとき取り扱いが容易である。これは、画像データを、水平方向をラインとするラスタスキャンデータとして表していることを意味する。
本実施の形態の装置的な構成は、従来技術である図1とは、画像同期信号が読み出し制御回路5に入力されている以外は全く同じであるので、同じ図を使用して説明を行う。魚眼レンズ1で撮像された物体の像が、CMOSセンサ2の撮像面に結像する。従来の書き込み制御回路4は、ラスタスキャンにより、CMOSセンサ2の値をバッファ3に書き込む。すなわちyを0としてxを0〜(width-1)まで変化させて対応するピクセルのデータを順次バッファ3に書き込み、それが終わるとyを1だけインクリメントしてxを0〜(width-1)まで変化させて対応するピクセルのデータを順次バッファ3に書き込む。これをyが(height-1)となるまで繰り返す。
本実施の形態においては、バッファ3の容量は全画素に対するだけ持っておらず、かつ、全画素の読み込みが終わらないうちに画像変換と出力を開始することである。又、バッファ3は実際には1次元であるので、前述のような変換により実際のバッファのアドレスが計算される。バッファ3の容量は、全画素を記憶するだけ無いため、バッファ3が一杯になると、新しいデータが1個書き込まれるごとに、最も古いデータが1個捨てられる。これは、最も古いデータに、最も新しいデータを上書きすることにより実現できる。
書き込み制御回路4の書き込みアドレス(1次元に変換されたもの)を0から1,2,・・・と順にカウントアウトし(バッファサイズ−1)を超えると又0に戻して再びカウントアップする動作を繰り返して書き込みアドレスへの書き込みを行えばよい。
読み出し制御回路5は、画像同期信号を検出して、あるタイミングが来ると、出力されるデータによって形成される画像の画像データがラスタスキャンにより表示されるようにバッファ3からの出力制御を行う。すなわち、中心射影画像データとしてのアドレスのyを0としてxを0〜(width-1)まで変化させて対応するピクセルのデータを順次バッファ3にから読み出し、それが終わるとyを1だけインクリメントしてxを0〜(width-1)まで変化させて対応するピクセルのデータを順次バッファ3から読み出す。これをyが(height-1)となるまで繰り返す。
この場合も、実際のアドレスは前述のように1次元化されている。又、バッファ3への書き込みが前述のように行われているので、最後のデータを読み終わると、最初に戻ってデータを読み出すサイクリックな読み出し方法により、有効データを読み出すことができる。
入力画像のピクセルと出力画像のピクセルとの関係は、従来技術の欄で説明したように参照座標メモリ6に格納されており、画像変換の方法は従来技術と同じである。
ところで、本実施の形態においては、全画素の読み込みが終わらないうちに画像変換と出力を開始するので、バッファ3の容量が小さすぎると、出力すべきピクセルに対応する入力データがまだ読み込まれていなかったり、既に捨てられてしまっている場合がある。よって、バッファ3の容量は、こうしたことが起こらないように決定しなければならない。
図3(a)は正方形を魚眼レンズで撮影した画像を示しており、図3(b)はそれを中心射影に変換した画像を示している。斜線部分は画像がない無効領域を示している。
Y方向(垂直方向)に座標移動(変換)する量で、上から下へ移動する最大量はd1で、下から上に移動する最大量はd2となる。d1とd2は無効領域の高さを示す。又、最大移動量d1が適用されるデータは、画像取り込み開始時から画像中央のデータの取り込み時までに存在し、最大移動量d2が適用されるデータは、画像中央のデータの取り込み時から画像取り込み終了時までに存在する。画像の中心付近は、移動量がd1、d2よりも小さくなる。なお、変換の順序は、左上から右下に向かって水平方向をラインとするラスタスキャンによって行われるものとする。
Y方向(垂直方向)に座標移動(変換)する量で、上から下へ移動する最大量はd1で、下から上に移動する最大量はd2となる。d1とd2は無効領域の高さを示す。又、最大移動量d1が適用されるデータは、画像取り込み開始時から画像中央のデータの取り込み時までに存在し、最大移動量d2が適用されるデータは、画像中央のデータの取り込み時から画像取り込み終了時までに存在する。画像の中心付近は、移動量がd1、d2よりも小さくなる。なお、変換の順序は、左上から右下に向かって水平方向をラインとするラスタスキャンによって行われるものとする。
もし、バッファ3の容量がwidth*d1だけあれば、画像変換を行おうとしたとき、対応する入力データが既に捨てられてしまってバッファ3中に残っていないということが無くなる。又、バッファ3の容量がwidth*d2だけあれば、画像変換を行おうとしたとき、対応する入力データがまだ読み込まれていないということがなくなる。結局、本実施の形態のような方式を採用した場合には、バッファ3の容量としてwidth*(d1+d2)だけ持っていれば、画像変換が可能となる。これ以上持っていてもよいが、1フレーム分の容量より少なくすることで、本発明の目的を達成できる。これが、課題を解決するための手段における「前記バッファメモリのサイズが、前記ラスタスキャンのライン方向の画素数と、ラインに垂直な方向の、画像変換の最大移動量の和との積以上であり、画像全体に対応するメモリサイズより小さい」ということの意味である。
又、読み出し制御回路5による画像変換の開始は、width*d2だけのデータが読み込まれたときに開始すればよい。読み出し制御回路5に入力される画像同期信号を検出することで、開始のタイミングが分かる。これより開始の時期が遅れてもよいが、その分だけバッファ3の容量を増やす必要がある。
以上の説明においては、参照座標メモリ6における座標対応データの持ち方としてB(m,n)に対応する変換前の座標(i,j)を書き込んでいた。しかし、変換前の座標(i,j)の代わりに、座標(m,n)と座標(i,j)との相対アドレスのずれ(m−i,n−j)を書き込んでおいて、読み出し制御回路5において計算により(i,j)を求めるようにしてもよい。このようにすると、参照座標メモリ6のデータのビット数を減らすことができる。
図4は、このように、参照座標メモリ6に座標(m,n)と座標(i,j)との相対アドレスのずれ(m−i,n−j)を書き込んである場合の読み出し制御回路5の動作を説明するための図である。但し、アドレスは、前述のように1次元化されて表されているものとする。
アップカウンタは読み出し開始と同時に動作を開始し、0から1,2,・・・と順番にカウントアップし、(バッファサイズ−1)を超えるとまた0になり、再びカウントアップする動作を、有効画像が出力されている間繰り返す。そのカウンタ値と参照座標メモリ6の値を加算し、その結果が(バッファサイズ−1)を超えなければそのまま読み出しアドレスとし、(バッファサイズ−1)を超えたら、加算結果から(バッファサイズ−1)を減算した結果を読み出しアドレスとする。
カメラを組み立てる際、レンズの光軸がCMOSセンサの中心からずれたり、CMOSセンサが少し回転したり傾いたりすることがある。それに対してはキャリブレーションを行って補正する。キャリブレーションの結果は参照座標メモリ6の値に反映される。つまり画像処理(変換)で補正される。
キャリブレーションの結果によって、図5のように無効画像領域の高さd1、d2が変わる。特に光軸のずれの場合は、(d1+d2)の量はあまり変化せずd1が増えるとd2が減る。従って、キャリブレーション結果から画像の下から上に移動する最大量d2がわかるので、バッファから画像データを読み出す待ち時間(レイテンシ)をd2に依存して設定できるようにするとバッファサイズの増加を抑えることができる。
1…魚眼レンズ、2…CMOSセンサ、3…バッファ、4…書き込み制御回路、5…読み出し制御回路、6…参照座標メモリ
Claims (3)
- 魚眼レンズを用いて撮像された魚眼画像を歪みの小さい平面画像に変換するための画像変換装置であって、魚眼画像データ(等距離射影画像データ)を入力し、中心射影画像データを出力する画像変換用バッファメモリと、そのバッファメモリの書き込み制御回路と、前記バッファメモリの書き込み制御回路に同期して駆動される前記バッファメモリの読み出し制御回路と、画像変換用参照座標を格納するメモリを備え、前記魚眼画像データの入力が撮像装置をラスタスキャンすることによって行われ、前記バッファメモリからの読み出しが、読み出して形成される画像データがラスタスキャンによって表示されるように行われ、前記バッファメモリのサイズが、前記ラスタスキャンのライン方向の画素数と、ラインに垂直な方向の、画像変換の最大移動量の和との積以上であり、画像全体に対応するメモリサイズより小さいことを特徴とする画像変換装置。
- 前記読み出し制御回路の待ち時間(レイテンシ)を、前記ラスタスキャンのライン方向の画素数と、画像中央のデータの取り込みから画像取り込み終了時までの間の、ラインに垂直な方向の、画像変換の最大移動量との積によって決定することを特徴とする請求項1に記載の画像変換装置。
- 前記画像変換用参照座標を格納するメモリに、変換前の等距離射影画像座標と変換後の中心射影画像座標の差分値を格納することを特徴とする請求項1又は請求項2に記載の画像変換装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005350698A JP2007156795A (ja) | 2005-12-05 | 2005-12-05 | 画像変換装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005350698A JP2007156795A (ja) | 2005-12-05 | 2005-12-05 | 画像変換装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007156795A true JP2007156795A (ja) | 2007-06-21 |
Family
ID=38241087
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005350698A Pending JP2007156795A (ja) | 2005-12-05 | 2005-12-05 | 画像変換装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007156795A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009146099A (ja) * | 2007-12-13 | 2009-07-02 | Nikon Corp | 画像変換装置 |
EP2081375A2 (en) | 2008-01-15 | 2009-07-22 | Ricoh Company, Ltd. | Image processing system and camera including the same |
JP2010020437A (ja) * | 2008-07-09 | 2010-01-28 | Nikon Corp | 画像変換装置 |
-
2005
- 2005-12-05 JP JP2005350698A patent/JP2007156795A/ja active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009146099A (ja) * | 2007-12-13 | 2009-07-02 | Nikon Corp | 画像変換装置 |
EP2081375A2 (en) | 2008-01-15 | 2009-07-22 | Ricoh Company, Ltd. | Image processing system and camera including the same |
JP2010020437A (ja) * | 2008-07-09 | 2010-01-28 | Nikon Corp | 画像変換装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102526794B1 (ko) | 카메라 모듈, 고체 촬상 소자, 전자 기기 및 촬상 방법 | |
JP5794705B2 (ja) | 撮像装置、その制御方法及びプログラム | |
JP4781229B2 (ja) | 歪曲収差補正装置、撮像装置、及び歪曲収差補正装置の制御方法 | |
JP4446193B2 (ja) | 画像処理装置および方法、並びにプログラム | |
JP2009111813A (ja) | プロジェクタ、プロジェクタにおける画像データ取得方法及び撮像装置 | |
JP6515455B2 (ja) | 撮像装置及び撮像表示装置 | |
JP6911439B2 (ja) | プロジェクター | |
JP6013247B2 (ja) | 撮像装置 | |
US10713757B2 (en) | Image processing apparatus, control method thereof, and storage medium | |
JP2004032368A (ja) | デジタル撮像装置 | |
JP2007156795A (ja) | 画像変換装置 | |
JP2006203437A (ja) | カメラ装置、カメラ装置の画像処理方法 | |
JP5996418B2 (ja) | 撮像装置および撮像方法 | |
JP4606218B2 (ja) | 歪補正装置 | |
JP2005045514A (ja) | 画像処理装置及び画像処理方法 | |
JP2001145012A (ja) | 画像歪補正装置 | |
US20210287384A1 (en) | Camera module, imaging device, and image processing method using fixed geometric characteristics | |
JP7292961B2 (ja) | 撮像装置およびその制御方法 | |
JP2008026088A (ja) | ステレオマッチング装置 | |
US10257420B2 (en) | Image processing apparatus, optical apparatus, and image processing method | |
US10244179B2 (en) | Image processing apparatus, image capturing apparatus, control method, and recording medium | |
JP2002278507A (ja) | 画像処理装置および画像表示装置 | |
JP2008235958A (ja) | 撮像装置 | |
JP2002199281A (ja) | 画像処理装置 | |
CN103680381A (zh) | 图像处理装置以及图像处理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20080801 |