JP2005339248A - 画像処理システム、撮像装置、プログラム、情報記憶媒体および画像処理方法 - Google Patents

画像処理システム、撮像装置、プログラム、情報記憶媒体および画像処理方法 Download PDF

Info

Publication number
JP2005339248A
JP2005339248A JP2004157758A JP2004157758A JP2005339248A JP 2005339248 A JP2005339248 A JP 2005339248A JP 2004157758 A JP2004157758 A JP 2004157758A JP 2004157758 A JP2004157758 A JP 2004157758A JP 2005339248 A JP2005339248 A JP 2005339248A
Authority
JP
Japan
Prior art keywords
imaging
information
image
angle
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004157758A
Other languages
English (en)
Other versions
JP4484037B2 (ja
Inventor
Masanobu Kobayashi
雅暢 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2004157758A priority Critical patent/JP4484037B2/ja
Publication of JP2005339248A publication Critical patent/JP2005339248A/ja
Application granted granted Critical
Publication of JP4484037B2 publication Critical patent/JP4484037B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Studio Devices (AREA)

Abstract

【課題】 撮像画像中の対象物の歪みを補正した画像を生成することが可能な撮像装置等を提供すること。
【解決手段】 画角調整機能を有し、矩形の対象物を撮像して撮像情報122を生成する撮像部140と、撮像情報122で表される原画像における対象物の画像の歪みを補正する補正部110とを含んで撮像装置を構成し、補正部110に、撮像時の画角を示す画角情報124と、撮像情報122に基づく解像度に基づき、原点と、3次元空間における撮像部140の撮像領域との光軸上の相対距離を演算する距離演算部112と、対象領域情報126と、相対距離に基づき、3次元位置情報を生成する3次元位置情報生成部114と、3次元位置情報に基づき、対象物の縦横比を演算する縦横比演算部116と、撮像情報122と、対象領域情報126と、縦横比に基づき、対象物が矩形で表される整形画像データ128を生成する座標変換処理部117および整形画像生成部118を設ける。
【選択図】 図4

Description

本発明は、撮像画像の歪み補正が可能な画像処理システム、撮像装置、プログラム、情報記憶媒体および画像処理方法に関する。
デジタルカメラやカメラ付き携帯電話等の撮像装置の低価格化、小型化、高機能化等により、多くのユーザーが、撮像装置を持ち歩くようになった。これにより、ユーザーが、撮像装置を用いてメモ代わりに名刺等を撮像して電子データとして名刺等を撮像装置等に保存する用途が発生している。
このような電子データを印刷や文字認識等により利用する場合、撮像画像における名刺等の対象物の形状に歪みがないことが好ましい。
このような課題を解決するため、例えば、特許文献1では、対象物を撮像した画像を入力し、入力した画像中の対象物の4頂点から撮像部の対象物に対する相対的な撮像位置姿勢を推定し、撮像位置姿勢に基づいて対象物の3次元空間中の4頂点を推定し、撮像位置姿勢と、3次元空間中の4頂点位置に基づいて入力画像中の対象物の透視変換歪みを補正した画像を出力する画像歪み補正装置が提案されている。
特開2004−40395号公報
しかし、特許文献1では、撮像部の画角(ズーム)については考慮されていない。このため、画角調整機能を有するデジタルカメラ等を用いて撮像した画像中の対象物の歪みを適切に補正することは困難である。
また、特許文献1では、所定点の内分比率の値と画像紙面の4頂点の座標に基づいて3次元矩形紙面の4頂点の座標を求め、これによって3次元空間中における3次元矩形紙面の位置を推定する手法が採用されている。
しかし、この手法のように、比率を用いて画素を移動させた場合、元の画像と見た目が異なってしまう。
本発明は、上記の課題に鑑みなされたものであり、その目的は、撮像画像中の対象物の歪みを補正した画像を生成することが可能な画像処理システム、撮像装置、プログラム、情報記憶媒体および画像処理方法を提供することにある。
上記課題を解決するため、画像処理システムは、画角調整機能を有し、矩形の対象物を撮像して撮像情報を生成する撮像装置から前記撮像情報と、撮像時の画角を示す画角情報と、前記撮像装置の撮像領域における前記対象物の4隅の座標を示す対象領域情報とを入力する入力手段と、
前記撮像情報で表される原画像における前記対象物の画像の歪みを補正する補正手段と、
を含み、
前記補正手段は、
前記撮像情報に基づく撮像時の解像度と、前記画角情報とに基づき、前記撮像領域の2次元平面に前記撮像装置の光軸を3次元目として加えた空間であって、かつ、前記撮像装置の主点を原点とする3次元空間における前記原点と、前記3次元空間における前記撮像領域との前記光軸上の相対距離を演算し、
前記対象領域情報と、前記相対距離とに基づき、前記3次元空間における前記対象物の位置を示す3次元位置情報を生成し、
当該3次元位置情報に基づき、前記対象物の対向する2辺の長さが等しく平行であるという条件を利用して前記対象物の縦横比を演算し、
前記撮像情報と、前記対象領域情報と、前記縦横比とに基づき、座標変換処理を行うことにより、前記原画像を、前記対象物が前記矩形で表される整形画像に補正することを特徴とする。
また、本発明に係る画像処理装置は、画角調整機能を有し、矩形の対象物を撮像して撮像情報を生成する撮像手段と、
前記撮像情報と、前記撮像手段の撮像時の画角を示す画角情報と、前記撮像手段の撮像領域における前記対象物の4隅の座標を示す対象領域情報とを含む処理対象情報を記憶する記憶手段と、
当該処理対象情報を画像処理装置に出力する出力手段と、
を有する撮像装置と、
前記処理対象情報を入力する入力手段と、
当該処理対象情報に基づき、前記撮像情報で表される原画像における前記対象物の画像の歪みを補正する補正手段と、
を有する画像処理装置と、
を含む画像処理システムであって、
前記補正手段は、
前記画角情報と、前記撮像情報に基づく撮像時の解像度とに基づき、前記撮像領域の2次元平面に前記撮像手段の光軸を3次元目として加えた空間であって、かつ、前記撮像手段の主点を原点とする3次元空間における前記原点と、前記3次元空間における前記撮像領域との前記光軸上の相対距離を演算し、
前記対象領域情報と、前記相対距離とに基づき、前記3次元空間における前記対象物の位置を示す3次元位置情報を生成し、
当該3次元位置情報に基づき、前記対象物の対向する2辺の長さが等しく平行であるという条件を利用して前記対象物の縦横比を演算し、
前記撮像情報と、前記対象領域情報と、前記縦横比とに基づき、座標変換処理を行うことにより、前記原画像を、前記対象物が前記矩形で表される画像に補正することを特徴とする。
また、本発明に係る撮像装置は、画角調整機能を有し、矩形の対象物を撮像して撮像情報を生成する撮像手段と、
前記撮像情報で表される原画像における前記対象物の画像の歪みを補正する補正手段と、
を含み、
前記補正手段は、
前記撮像手段の撮像時の画角を示す画角情報と、前記撮像情報に基づく解像度とに基づき、前記撮像手段の撮像領域の2次元平面に前記撮像手段の光軸を3次元目として加えた空間であって、かつ、前記撮像手段の主点を原点とする3次元空間における前記原点と、前記3次元空間における前記撮像領域との前記光軸上の相対距離を演算し、
前記撮像領域における前記対象物の4隅の座標を示す対象領域情報と、前記相対距離とに基づき、前記3次元空間における前記対象物の位置を示す3次元位置情報を生成し、
当該3次元位置情報に基づき、前記対象物の対向する2辺の長さが等しく平行であるという条件を利用して前記対象物の縦横比を演算し、
前記撮像情報と、前記対象領域情報と、前記縦横比とに基づき、座標変換処理を行うことにより、前記撮像情報で表される原画像を、前記対象物が前記矩形で表される画像に補正することを特徴とする。
また、本発明に係るプログラムは、コンピュータにより読み取り可能なプログラムであって、
コンピュータを、
画角調整機能を有し、矩形の対象物を撮像して撮像情報を生成する撮像装置から前記撮像情報と、撮像時の画角を示す画角情報と、前記撮像装置の撮像領域における前記対象物の4隅の座標を示す対象領域情報とを入力する入力手段と、
前記撮像情報で表される原画像における前記対象物の画像の歪みを補正する補正手段として機能させ、
前記補正手段は、
前記撮像装置の前記撮像情報に基づく撮像時の解像度と、前記画角情報とに基づき、前記撮像領域の2次元平面に前記撮像装置の光軸を3次元目として加えた空間であって、かつ、前記撮像手段の主点を原点とする3次元空間における前記原点と、前記3次元空間における前記撮像領域との前記光軸上の相対距離を演算し、
前記対象領域情報と、前記相対距離とに基づき、前記3次元空間における前記対象物の位置を示す3次元位置情報を生成し、
当該3次元位置情報に基づき、前記対象物の対向する2辺の長さが等しく平行であるという条件を利用して前記対象物の縦横比を演算し、
前記撮像情報と、前記対象領域情報と、前記縦横比とに基づき、座標変換処理を行うことにより、前記原画像を、前記対象物が前記矩形で表される整形画像に補正することを特徴とする。
また、本発明に係る情報記憶媒体は、コンピュータにより読み取り可能なプログラムを記憶した情報記憶媒体であって、
上記プログラムを記憶したことを特徴とする。
また、本発明に係る画像処理方法は、画角調整機能を有し、矩形の対象物を撮像して撮像情報を生成する撮像装置から前記撮像情報と、撮像時の画角を示す画角情報と、前記撮像装置の撮像領域における前記対象物の4隅の座標を示す対象領域情報とを入力し、
前記撮像情報に基づき、撮像時の解像度を示す解像度情報を生成し、
当該解像度情報と、前記画角情報とに基づき、前記撮像領域の2次元平面に前記撮像手段の光軸を3次元目として加えた空間であって、かつ、前記撮像装置の主点を原点とする3次元空間における前記原点と、前記3次元空間における前記撮像領域との前記光軸上の相対距離を演算し、
前記対象領域情報と、前記相対距離とに基づき、前記3次元空間における前記対象物の位置を示す3次元位置情報を生成し、
当該3次元位置情報に基づき、前記対象物の対向する2辺の長さが等しく平行であるという条件を利用して前記対象物の縦横比を演算し、
前記撮像情報と、前記対象領域情報と、前記縦横比とに基づき、座標変換処理を行うことにより、前記撮像情報で表される原画像を、当該原画像内の前記対象物が前記矩形で表される整形画像に補正することを特徴とする。
また、本発明に係る画像処理方法は、画角調整機能を有する撮像装置を用いて矩形の対象物を撮像して撮像情報を生成し、
前記撮像装置の撮像時の画角を示す画角情報と、前記撮像情報に基づく撮像時の解像度とに基づき、前記撮像装置の撮像領域の2次元平面に前記撮像装置の光軸を3次元目として加えた空間であって、かつ、前記撮像装置の主点を原点とする3次元空間における前記原点と、前記3次元空間における前記撮像領域との前記光軸上の相対距離を演算し、
前記撮像領域における前記対象物の4隅の座標を示す対象領域情報と、前記相対距離とに基づき、前記3次元空間における前記対象物の位置を示す3次元位置情報を生成し、
当該3次元位置情報に基づき、前記対象物の対向する2辺の長さが等しく平行であるという条件を利用して前記対象物の縦横比を演算し、
前記撮像情報と、前記対象領域情報と、前記縦横比とに基づき、座標変換処理を行うことにより、前記撮像情報で表される原画像を、当該原画像内の前記対象物が前記矩形で表される整形画像に補正することを特徴とする。
また、前記撮像装置は、ユーザーによって前記原画像における前記対象物の4隅を指定させるために、前記撮像情報に基づき、前記原画像を表示する表示手段と、
前記原画像が表示された状態におけるユーザーによる操作情報を入力する操作情報入力手段と、
当該操作情報に基づき、前記対象領域情報を生成する対象領域情報生成手段と、
を含んでもよい。
本発明によれば、画像処理システム等は、撮像時の画角に応じて撮像像画中の対象物の歪みを補正した画像を生成することができる。また、本発明によれば、画像処理システム等は、内分比率を用いない座標変換を行うことにより、原画像の見え方を変更することなく整形画像を生成することができる。
また、前記画像処理システム、前記撮像装置、前記プログラムおよび前記情報記憶媒体において、前記補正手段は、前記座標変換処理として、前記原画像における前記対象物の4隅の座標を前記整形画像における前記対象物の4隅の座標に変換する変換式の逆変換式を用いて、前記整形画像における各画素に相当する領域を含む前記原画像における複数の画素の輝度値を重み付け演算することにより、前記整形画像を生成する処理を実行してもよい。
また、前記画像処理方法は、前記座標変換処理として、前記原画像における前記対象物の4隅の座標を前記整形画像における4隅の座標に変換する変換式の逆変換式を用いて、前記整形画像における各画素に相当する領域を含む前記原画像における複数の画素の輝度値を重み付け演算することにより、前記整形画像を生成する処理を実行してもよい。
これによれば、画像処理システム等は、複数の画素間に隙間を生じさせることなく、かつ、画素同士をなめらかに接続して整形画像を生成することができるため、原画像の見え方を変更することなく整形画像を生成することができる。
また、前記画像処理システム、前記撮像装置、前記プログラムおよび前記情報記憶媒体において、前記補正手段は、前記座標変換処理として、前記原画像における前記対象物の4隅の座標を前記整形画像における4隅の座標に変換する変換式の逆変換式を用いて、前記整形画像における各画素に相当する領域を含む前記原画像の複数の画素から当該領域の占有面積が最も大きい画素を選択し、選択した画素の輝度値に基づき、前記整形画像を生成する処理を実行してもよい。
また、前記画像処理方法は、前記座標変換処理として、前記原画像における前記対象物の4隅の座標を前記整形画像における4隅の座標に変換する変換式の逆変換式を用いて、前記整形画像における各画素に相当する領域を含む前記原画像の複数の画素から当該領域の占有面積が最も大きい画素を選択し、選択した画素の輝度値に基づき、前記整形画像を生成する処理を実行してもよい。
これによれば、画像処理システム等は、複数の画素間に隙間を生じさせることなく整形画像を生成することができるため、原画像の見え方を変更することなく整形画像を生成することができる。
以下、本発明を、撮像画像の歪み補正を行うデジタルカメラに適用した場合を例に採り、図面を参照しつつ説明する。なお、以下に示す実施形態は、特許請求の範囲に記載された発明の内容を何ら限定するものではない。また、以下の実施形態に示す構成の全てが、特許請求の範囲に記載された発明の解決手段として必須であるとは限らない。
(第1の実施例)
図1は、撮像時の状態を示す模式図である。
本実施例では、図1に示すように、デジタルカメラ10が黒いシート30上の矩形の対象物20(例えば、名刺等)を撮像して撮像画像(原画像)を整形する場合を例に採り説明する。
図2は、第1の実施例におけるデジタルカメラ10の背面図である。図3は、第1の実施例における原画像18を示す図である。
ユーザーは、対象物20が撮像範囲内に入るように、拡大ボタン12や望遠ボタン13を押してズーム状態を変更しながら撮像ボタン11を押して対象物20を撮像する。
撮像後、ユーザーは、液晶画面16に表示される原画像18内の対象物19の4隅ABCDを、画像移動ボタン14−1〜14−4を押してポインター画像を移動させて決定ボタン15を押して指定する。例えば、ユーザーが斜めから対象物20を撮像した場合、図3に示すように、原画像18における対象物19の形状は歪むことになる。
デジタルカメラ10は、原画像18内の対象物19の歪みを補正して対象物19が元の矩形状になるように整形画像を生成する。
次に、このような機能を実装するためのデジタルカメラ10の機能ブロックについて説明する。
図4は、第1の実施例におけるデジタルカメラ10の機能ブロック図である。
デジタルカメラ10は、撮像ボタン11等を含む操作部130と、画角調整機能を有し、撮像情報122を生成する撮像部140と、処理対象情報121等を記憶する記憶部120と、撮像情報で表される原画像18における対象物19の画像の歪みを補正する補正部110と、原画像18等を表示する表示部150と、必要に応じて処理対象情報121を画像処理装置に出力する出力部160とを含んで構成されている。
また、処理対象情報121は、撮像情報122と、撮像部140の撮像時の画角を示す画角情報124と、撮像部140の撮像領域における対象物19の4隅の座標を示す対象領域情報126とを含む。
また、補正部110は、画角情報124と、撮像情報122に基づく解像度に基づき、撮像領域の2次元平面に撮像部140の光軸を3次元目として加えた空間であって、かつ、撮像部140の主点を原点とする3次元空間における原点と、3次元空間における撮像領域との光軸上の相対距離を演算する距離演算部112と、撮像領域における対象物の4隅の座標を示す対象領域情報126と、相対距離に基づき、3次元空間における対象物の位置を示す3次元位置情報を生成する3次元位置情報生成部114とを含んで構成されている。
また、補正部110は、3次元位置情報に基づき、対象物の対向する2辺の長さが等しく平行であるという条件を利用して対象物の縦横比を演算する縦横比演算部116と、撮像情報と、対象領域情報と、縦横比に基づき、座標変換処理を行う座標変換処理部117と、当該座標変換処理により、原画像18から対象物が矩形で表される整形画像を生成する整形画像生成部118と、原画像18等を生成する画像生成部119とを含んで構成されている。また、記憶部120は、整形画像を示す整形画像データ128を記憶する。
なお、このような機能をコンピュータに実装するためのハードウェアとしては、例えば、以下のものを適用できる。
図5は、第1の実施例におけるデジタルカメラ10のハードウェアブロック図である。
例えば、操作部130としてはボタン960等、撮像部140としてはCCDカメラ930、画像処理回路970等、補正部110としてはCPU910、画像処理回路970等、記憶部120としてはRAM950等、表示部150としては液晶パネル920等、出力部160としては入出力インターフェース940等を適用できる。
なお、これらの各部はシステムバス980を介して相互に情報をやりとりすることが可能である。
また、これらの各部は、その一部または全部を、回路のようにハードウェア的に実装してもよいし、ドライバのようにソフトウェア的に実装してもよい。
さらに、補正部110等としてコンピュータを機能させるためのプログラムを記憶した情報記憶媒体900からプログラムを読み取って補正部110等の機能をコンピュータに実装させてもよい。
このような情報記憶媒体900としては、例えば、CD−ROM、DVD−ROM、ROM、RAM、HDD等を適用でき、そのプログラムの読み取り方式は接触方式であっても、非接触方式であってもよい。
また、情報記憶媒体900に代えて、上述した各機能を実装するためのプログラム等を、伝送路を介してホスト装置等からダウンロードすることによって上述した各機能を実装することも可能である。
次に、これらの各部を用いた画像処理の流れについて説明する。
図6は、第1の実施例における画像処理の流れを示すフローチャートである。
図1を用いて説明したように、ユーザーは、対象物20を撮像する。撮像部140は、操作部130からのユーザーによる操作情報に基づき、対象物20を撮像して撮像情報を生成する(ステップS1)。
また、撮像部140は、撮像時の水平方向(垂直方向でもよい。)の解像度を示す撮像情報122、撮像時の水平方向(垂直方向でもよい。)の画角を示す画角情報124、ユーザーによる対象物19の4隅の指定に基づく対象領域情報126を生成する(ステップS2)。記憶部120は、これらの情報を処理対象情報121として記憶する。すなわち、デジタルカメラ10は、処理対象情報121を、1つの画像ファイルとして扱うことが可能であり、外部の画像処理装置に出力しやすい形で扱うことが可能である。
より具体的には、画像生成部119は、撮像情報122に基づき、原画像18を表示するための画像情報を生成し、表示部150は、当該画像情報に基づき、原画像18を表示する。ユーザーは、決定ボタン15を押すことにより、対象物19の4隅を、例えば、左下、左上、右上、右下の順で指定する。そして、撮像部140は、操作部130からの操作情報に基づき、撮像領域における各頂点の位置情報を対象領域情報126として記憶部120に記憶する。
距離演算部112は、撮像部140の撮像時の画角を示す画角情報と、撮像情報に基づく解像度とに基づき、撮像領域の2次元平面に撮像部140の光軸を3次元目として加えた空間であって、かつ、撮像部140の主点を原点とする3次元空間における原点と、3次元空間における撮像領域との光軸上の相対距離を演算する(ステップS3)。
図7は、第1の実施例におけるデジタルカメラ10の撮像平面の模式図である。
例えば、撮像部140の水平解像度がWで撮像部140の水平画角がθhの場合、上述した相対距離Pzは、Pz=(W/2)/tan(θh/2)で求められる。このように、本実施形態では、デジタルカメラ10は、画角を考慮して画像処理を行っている。なお、ここでは、撮像部140の主点が原点O(0,0,0)であり、原画像18の中央を撮像平面(撮像領域)の原点と仮定している。
図8は、第1の実施例における撮像平面上の対象物19と3次元空間に実在する対象物20を示す模式図である。
図8に示すように、対象物19と実在の対象物20との関係は、対象物19が実在の対象物20が透視投影された関係にある。したがって、実際に存在する対象物20の4隅A’B’C’D’の3次元座標は、A’(s*Ax,s*Ay,s*Pz)、B’(t*Bx,t*By,t*Pz)、C’(u*Cx,u*Cy,u*Pz)、D’(v*Dx,v*Dy,v*Pz)で表すことが可能である。
このような手法により、3次元位置情報生成部114は、対象領域情報と、相対距離Pzに基づき、撮像領域に透視投影した対象物19に関する情報から実在の対象物20の位置を示す3次元位置情報を生成する(ステップS4)。
縦横比演算部116は、3次元位置情報に基づき、対象物20の対向する2辺の長さが等しく平行であるという条件を利用して対象物20の縦横比を演算する(ステップS5)。
より具体的には、この条件から、t=s*(e*c−b*f)/(e*a−b*d)であり、u=s*(d*e−a*f)/(d*b−a*e)であり、v=s−t*uである。なお、ここで、a=(Bx−Dx)、b=(Dx−Cx)、c=(Ax−Dx)、d=(By−Dy)、e=(Dy−Cy)、f=(Ay−Dy)である。
また、対象物20の形状を維持しつつ大きさを変化させた場合でも、対象物20の縦横比は不変であるため、縦横比演算部116は、s=1と仮定し、3次元空間の大きさを仮決定する。
すなわち、s=1である場合、t=(e*c−b*f)/(e*a−b*d)であり、u=(d*e−a*f)/(d*b−a*e)であり、v=1−t+uである。
縦横比演算部116は、このようにして得られた対象物20の4頂点の座標から対象物20の縦横比Ra=縦/横=|A’B’|/|B’C’|を求めることができる。例えば、横:縦=18:11であれば、縦横比Ra=11/18=0.61である。
そして、座標変換処理部117は、撮像情報122と、対象領域情報126と、縦横比に基づき、座標変換処理を行う(ステップS6)。
本実施例では、補正後の整形画像のサイズ(解像度)は、原画像18のサイズと同じとする。このため、対象物20の縦横比によっては上下または左右の一部がマスク(黒領域で埋める)される。例えば、Ra=0.61の対象物20を撮像した場合の原画像18が1600*1200ドットである場合、整形画像も1600*1200ドット(Ra=0.75)であり、この整形画像の内側に1600*978ドット(Ra=0.61)の対象物の画像が配置される必要がある。
この場合、整形画像よりも対象物の画像のほうが横長であるため、整形画像の上下は、均等に1600*111ドットずつマスクされる必要がある。この時の整形画像における対象物の4隅の座標を、E(Ex,Ey)、F(Fx,Fy)、G(Gx,Gy)、H(Hx,Hy)と仮定する。なお、Ra>1の場合は整形画像の左右がマスクされる必要がある。
原画像18から整形画像への座標変換は、画像処理で広く用いられている自由変形処理を適用することが可能である。自由変形処理では、変形前における四角形の4隅の座標と、変形後における四角形の4隅の座標を用いてマッピングするための座標変換用パラメータを得ることができる。
図9は、第1の実施例における座標変換用パラメータを求める演算式を示す図である。
この座標変換用パラメータPa〜Phは、図9に示す方程式で得ることができる。
本実施例では、整形画像生成部118は、座標変換処理結果に基づき、座標変換用パラメータPa〜Phと、自由変形処理で用いる変換式の逆変換式を用いて整形画像を生成する(ステップS7)。
図10は、従来のマッピング手法を示す図であり、図10(A)は、従来のマッピング前の原画像を示す図であり、図10(B)は、従来のマッピング後の整形画像を示す図である。
例えば、従来のマッピング手法の場合、図10(A)に4つの隣接した正方形で示す対象物19の左側にある4画素は、自由変形処理により、図10(B)に示す整形画像21における対象物22内の4つの離散した正方形の部分に用いられる。
このような手法で生成された整形画像21は、対象物22の画素間に隙間が生まれ、見た目が元の画像と変わってしまうこともある。
本実施例では、整形画像生成部118は、自由変形処理で用いる変換式の逆変換式を用いて整形画像を生成する。
図11は、第1の実施例におけるマッピング手法を示す図であり、図10(A)は、第1の実施例におけるマッピング前の原画像を示す図であり、図10(B)は、第1の実施例におけるマッピング後の整形画像を示す図である。
整形画像生成部118は、まず、図11(B)に4つの隣接した正方形で示す整形画像23内の対象物24の4画素に相当する画素の輝度値を、対象物19の画素の輝度値から生成する。例えば、図11(A)に示すように、利用される対象物19の画素は重複した領域となることもある。
整形前の原画像18の画素の座標(X,Y)から整形画像23の画素の座標(x,y)を求める場合、x=(Pa*X+Pb*Y+Pc)/(Pg*X+Ph*Y+1)であり、y=(Pd*X+Pe*Y+Pf)/(Pg*X+Ph*Y+1)である。
したがって、この逆変換式は、X={(Ph*x−Pb)*(y−Pf)−(Ph*y−Pe)*(x−Pc)}/{(Ph*y−Pe)*(Pg*x−Pa)−(Ph*x−Pb)*(Pg*y−Pd)}であり、Y={(Pg*x−Pa)*(y−Pf)−(Pg*y−Pd)*(x−Pc)}/{(Pg*y−Pd)*(Ph*x−Pb)−(Pg*x−Pa)*(Ph*y−Pe)}である。
この逆変換式を用いた場合、XおよびYは、整数になるとは限らない。値を丸めることにより、整数値にすることも可能であるが、ギザギザ感をなくし、よりなめらかな整形画像23を生成するためには、XおよびYを整数値化した画素の近傍にある複数の画素の輝度値を用いることが好ましい。
図12は、第1の実施例におけるマッピング手法による画素の割り当てを示す模式図である。
例えば、図12に示すように、逆変換によって求められた画素P(X,Y)は、原画像18の4つの画素Q、R、S、Tにまたがっているものと仮定する。また、P(X,Y)=(1.7,1.6)であり、Q(1,1)、R(1,2)、S(2,2)、T(2,1)と仮定する。
整形画像生成部518は、画素Pに含まれる各画素Q、R、S、Tの領域の割合に基づき、各画素Q、R、S、Tの輝度値を重み付け演算することにより、画素Pの輝度値を求める。例えば、この例の場合、P=0.12Q+0.18R+0.42S+0.28Tである。
このような手法によって生成される整形画像23は、図11(B)に示すように、画素間に隙間ができず、ギザギザ感がなくなめらかな画像となる。
以上のように、本実施形態によれば、デジタルカメラ10は、撮像時の画角に応じて撮像像画中の対象物の歪みを補正した画像を生成することができる。また、本実施形態によれば、デジタルカメラ10は、内分比率を用いない座標変換を行うことにより、原画像の見え方を変更することなく整形画像23を生成することができる。
また、本実施形態によれば、デジタルカメラ10は、整形画像23の複数の画素間に隙間を生じさせることなく、かつ、画素同士をなめらかに接続して整形画像23を生成することができるため、原画像18の見え方を変更することなく整形画像23を生成することができる。
(第2の実施例)
次に、撮像情報等を生成するデジタルカメラと、撮像情報等に基づいて補正処理等を行うPCを用いて上述した画像処理を行う場合を例に採り説明する。
図13は、第2の実施例におけるデジタルカメラ40とPC50の機能ブロック図である。
デジタルカメラ40は、画像生成等を行う処理部410と、処理対象情報421を一時的に記憶する記憶部420と、操作部430と、撮像部440と、表示部450と、処理対象情報421をPC50に出力する出力部460とを含んで構成されている。
また、PC50は、補正部510と、記憶部520と、デジタルカメラ40から処理対象情報421を入力する入力部570とを含んで構成されている。
また、補正部510は、距離演算部512と、3次元位置情報生成部514と、縦横比演算部516と、座標変換処理部517と、整形画像生成部518と、画像生成部519とを含んで構成されている。
また、記憶部520には、処理対象情報521、整形画像データ528等が記憶される。また、処理対象情報521は、撮像情報522、画角情報524、対象領域情報526を含む。
なお、操作部430は操作部130、撮像部440は撮像部140、記憶部420および記憶部520は記憶部120、表示部450は表示部150、補正部510は補正部110と同等の機能を有する。
入力部570は、デジタルカメラ40の出力部460からケーブル等を介して出力される処理対象情報421を入力する。また、記憶部520は、処理対象情報521を記憶する。補正部510は、処理対象情報521に基づき、第1の実施例で説明した画像処理を行うことにより、原画像18を整形画像23に補正する。
このように、デジタルカメラ40とPC50とで分散処理する場合であっても、撮像時の画角に応じて原画像18中の対象物19の歪みを補正し、原画像18の見え方を変更することなく整形画像23を生成することができる。
なお、出力部460は、コンパクトフラッシュカード等の外部メモリに処理対象情報421を出力してもよい。そして、ユーザーが当該外部メモリをPC50のメモリスロットに挿入することにより、入力部570が外部メモリから処理対象情報421を読み取ってもよい。
(変形例)
本発明は、上述した実施例に限定されず、種々の変形が可能である。
例えば、デジタルカメラ10等は、整形画像23を用いて対象物24に記載された文字の認識処理、翻訳処理、印刷処理等を実行してもよい。これにより、デジタルカメラ10等は、画像が整形されていない場合と比べ、より正確に文字認識等を行うことができる。
また、上述した実施例では、ユーザーが対象物19の4隅を指定したが、例えば、デジタルカメラ10等にエッジ検出部を設け、エッジ検出によって対象物19の4隅を検出してもよい。特に、対象物20とのコントラストが明確なシート30を用いることにより、エッジ検出部は、対象物19の4隅を正確に検出できる。
また、液晶画面16に歪み補正を行うかどうかをユーザーに選択させる文字列(例えば、「歪み補正しますか?」「はい」「いいえ」等)を表示し、ユーザーに選択させてもよい。
また、液晶画面16に対象物19を表示する場合、画像生成部119は、ユーザーの操作に応じて対象物19を拡大したり、縮小したりしてもよい。これによれば、原画像18の解像度と液晶画面16の解像度が異なっている場合であっても、ユーザーは、対象物19の4隅を指定しやすい。
また、例えば、対象物20としては、名刺以外にも、ホワイトボードの板書、バス等の時刻表、写真等の様々な矩形の対象物を用いることが可能である。
また、上述した実施例では、撮像装置としてデジタルカメラ10を用いたが、本発明は、デジタルカメラ10以外にも例えば、デジタルビデオカメラ、カメラ付き携帯電話等の種々の撮像装置に適用可能である。
また、画像処理システムとしては、PC50以外にも例えば、プロジェクタ、ゲーム装置、HDDレコーダー等を用いてもよい。画像処理システムは、複数の処理装置で分散して(例えば、プロジェクタとPCとで分散処理)実装してもよい。
撮像時の状態を示す模式図である。 第1の実施例におけるデジタルカメラの背面図である。 第1の実施例における原画像を示す図である。 第1の実施例におけるデジタルカメラの機能ブロック図である。 第1の実施例におけるデジタルカメラのハードウェアブロック図である。 第1の実施例における画像処理の流れを示すフローチャートである。 第1の実施例におけるデジタルカメラの撮像平面の模式図である。 第1の実施例における撮像平面上の対象物と3次元空間に実在する対象物を示す模式図である。 第1の実施例における座標変換用パラメータを求める演算式を示す図である。 従来のマッピング手法を示す図であり、図10(A)は、従来のマッピング前の原画像を示す図であり、図10(B)は、従来のマッピング後の整形画像を示す図である。 第1の実施例におけるマッピング手法を示す図であり、図10(A)は、第1の実施例におけるマッピング前の原画像を示す図であり、図10(B)は、第1の実施例におけるマッピング後の整形画像を示す図である。 第1の実施例におけるマッピング手法による画素の割り当てを示す模式図である。 第2の実施例におけるデジタルカメラとPCの機能ブロック図である。
符号の説明
10、40 デジタルカメラ(撮像装置)、11 撮像ボタン、12 拡大ボタン、13 望遠ボタン、14−1〜14−4 画像移動ボタン、15 決定ボタン、16 液晶画面、18 原画像、19、20、22、24 対象物、21、23 整形画像、30 シート、50 PC(画像処理装置)、110、510 補正部、112、512 距離演算部、114、514 3次元位置情報生成部、116、516 縦横比演算部、117、517 座標変換処理部、118、518 整形画像生成部、119、519 画像生成部、120、520 記憶部、121、421、521 処理対象情報、122、522 撮像情報、124、524 画角情報、126、526 対象領域情報、128、528 整形画像データ、130、430 操作部、140、440 撮像部、150、450 表示部、160、460 出力部、410 処理部、570 入力部、900 情報記憶媒体

Claims (12)

  1. 画角調整機能を有し、矩形の対象物を撮像して撮像情報を生成する撮像装置から前記撮像情報と、撮像時の画角を示す画角情報と、前記撮像装置の撮像領域における前記対象物の4隅の座標を示す対象領域情報とを入力する入力手段と、
    前記撮像情報で表される原画像における前記対象物の画像の歪みを補正する補正手段と、
    を含み、
    前記補正手段は、
    前記撮像情報に基づく撮像時の解像度と、前記画角情報とに基づき、前記撮像領域の2次元平面に前記撮像装置の光軸を3次元目として加えた空間であって、かつ、前記撮像装置の主点を原点とする3次元空間における前記原点と、前記3次元空間における前記撮像領域との前記光軸上の相対距離を演算し、
    前記対象領域情報と、前記相対距離とに基づき、前記3次元空間における前記対象物の位置を示す3次元位置情報を生成し、
    当該3次元位置情報に基づき、前記対象物の対向する2辺の長さが等しく平行であるという条件を利用して前記対象物の縦横比を演算し、
    前記撮像情報と、前記対象領域情報と、前記縦横比とに基づき、座標変換処理を行うことにより、前記原画像を、前記対象物が前記矩形で表される整形画像に補正することを特徴とする画像処理システム。
  2. 請求項1において、
    前記補正手段は、前記座標変換処理として、前記原画像における前記対象物の4隅の座標を前記整形画像における前記対象物の4隅の座標に変換する変換式の逆変換式を用いて、前記整形画像における各画素に相当する領域を含む前記原画像における複数の画素の輝度値を重み付け演算することにより、前記整形画像を生成する処理を実行することを特徴とする画像処理システム。
  3. 請求項1において、
    前記補正手段は、前記座標変換処理として、前記原画像における前記対象物の4隅の座標を前記整形画像における4隅の座標に変換する変換式の逆変換式を用いて、前記整形画像における各画素に相当する領域を含む前記原画像の複数の画素から当該領域の占有面積が最も大きい画素を選択し、選択した画素の輝度値に基づき、前記整形画像を生成する処理を実行することを特徴とする画像処理システム。
  4. 画角調整機能を有し、矩形の対象物を撮像して撮像情報を生成する撮像手段と、
    前記撮像情報と、前記撮像手段の撮像時の画角を示す画角情報と、前記撮像手段の撮像領域における前記対象物の4隅の座標を示す対象領域情報とを含む処理対象情報を記憶する記憶手段と、
    当該処理対象情報を画像処理装置に出力する出力手段と、
    を有する撮像装置と、
    前記処理対象情報を入力する入力手段と、
    当該処理対象情報に基づき、前記撮像情報で表される原画像における前記対象物の画像の歪みを補正する補正手段と、
    を有する画像処理装置と、
    を含む画像処理システムであって、
    前記補正手段は、
    前記画角情報と、前記撮像情報に基づく撮像時の解像度とに基づき、前記撮像領域の2次元平面に前記撮像手段の光軸を3次元目として加えた空間であって、かつ、前記撮像手段の主点を原点とする3次元空間における前記原点と、前記3次元空間における前記撮像領域との前記光軸上の相対距離を演算し、
    前記対象領域情報と、前記相対距離とに基づき、前記3次元空間における前記対象物の位置を示す3次元位置情報を生成し、
    当該3次元位置情報に基づき、前記対象物の対向する2辺の長さが等しく平行であるという条件を利用して前記対象物の縦横比を演算し、
    前記撮像情報と、前記対象領域情報と、前記縦横比とに基づき、座標変換処理を行うことにより、前記原画像を、前記対象物が前記矩形で表される画像に補正することを特徴とする画像処理システム。
  5. 画角調整機能を有し、矩形の対象物を撮像して撮像情報を生成する撮像手段と、
    前記撮像情報で表される原画像における前記対象物の画像の歪みを補正する補正手段と、
    を含み、
    前記補正手段は、
    前記撮像手段の撮像時の画角を示す画角情報と、前記撮像情報に基づく解像度とに基づき、前記撮像手段の撮像領域の2次元平面に前記撮像手段の光軸を3次元目として加えた空間であって、かつ、前記撮像手段の主点を原点とする3次元空間における前記原点と、前記3次元空間における前記撮像領域との前記光軸上の相対距離を演算し、
    前記撮像領域における前記対象物の4隅の座標を示す対象領域情報と、前記相対距離とに基づき、前記3次元空間における前記対象物の位置を示す3次元位置情報を生成し、
    当該3次元位置情報に基づき、前記対象物の対向する2辺の長さが等しく平行であるという条件を利用して前記対象物の縦横比を演算し、
    前記撮像情報と、前記対象領域情報と、前記縦横比とに基づき、座標変換処理を行うことにより、前記撮像情報で表される原画像を、前記対象物が前記矩形で表される画像に補正することを特徴とする撮像装置。
  6. 請求項5において、
    ユーザーによって前記原画像における前記対象物の4隅を指定させるために、前記撮像情報に基づき、前記原画像を表示する表示手段と、
    前記原画像が表示された状態におけるユーザーによる操作情報を入力する操作情報入力手段と、
    当該操作情報に基づき、前記対象領域情報を生成する対象領域情報生成手段と、
    を含むことを特徴とする撮像装置。
  7. コンピュータにより読み取り可能なプログラムであって、
    コンピュータを、
    画角調整機能を有し、矩形の対象物を撮像して撮像情報を生成する撮像装置から前記撮像情報と、撮像時の画角を示す画角情報と、前記撮像装置の撮像領域における前記対象物の4隅の座標を示す対象領域情報とを入力する入力手段と、
    前記撮像情報で表される原画像における前記対象物の画像の歪みを補正する補正手段として機能させ、
    前記補正手段は、
    前記撮像装置の前記撮像情報に基づく撮像時の解像度と、前記画角情報とに基づき、前記撮像領域の2次元平面に前記撮像装置の光軸を3次元目として加えた空間であって、かつ、前記撮像手段の主点を原点とする3次元空間における前記原点と、前記3次元空間における前記撮像領域との前記光軸上の相対距離を演算し、
    前記対象領域情報と、前記相対距離とに基づき、前記3次元空間における前記対象物の位置を示す3次元位置情報を生成し、
    当該3次元位置情報に基づき、前記対象物の対向する2辺の長さが等しく平行であるという条件を利用して前記対象物の縦横比を演算し、
    前記撮像情報と、前記対象領域情報と、前記縦横比とに基づき、座標変換処理を行うことにより、前記原画像を、前記対象物が前記矩形で表される整形画像に補正することを特徴とするプログラム。
  8. コンピュータにより読み取り可能なプログラムを記憶した情報記憶媒体であって、
    請求項7に記載のプログラムを記憶したことを特徴とする情報記憶媒体。
  9. 画角調整機能を有し、矩形の対象物を撮像して撮像情報を生成する撮像装置から前記撮像情報と、撮像時の画角を示す画角情報と、前記撮像装置の撮像領域における前記対象物の4隅の座標を示す対象領域情報とを入力し、
    前記撮像情報に基づき、撮像時の解像度を示す解像度情報を生成し、
    当該解像度情報と、前記画角情報とに基づき、前記撮像領域の2次元平面に前記撮像手段の光軸を3次元目として加えた空間であって、かつ、前記撮像装置の主点を原点とする3次元空間における前記原点と、前記3次元空間における前記撮像領域との前記光軸上の相対距離を演算し、
    前記対象領域情報と、前記相対距離とに基づき、前記3次元空間における前記対象物の位置を示す3次元位置情報を生成し、
    当該3次元位置情報に基づき、前記対象物の対向する2辺の長さが等しく平行であるという条件を利用して前記対象物の縦横比を演算し、
    前記撮像情報と、前記対象領域情報と、前記縦横比とに基づき、座標変換処理を行うことにより、前記撮像情報で表される原画像を、当該原画像内の前記対象物が前記矩形で表される整形画像に補正することを特徴とする画像処理方法。
  10. 請求項9において、
    前記座標変換処理として、前記原画像における前記対象物の4隅の座標を前記整形画像における4隅の座標に変換する変換式の逆変換式を用いて、前記整形画像における各画素に相当する領域を含む前記原画像における複数の画素の輝度値を重み付け演算することにより、前記整形画像を生成する処理を実行することを特徴とする画像処理方法。
  11. 請求項9において、
    前記座標変換処理として、前記原画像における前記対象物の4隅の座標を前記整形画像における4隅の座標に変換する変換式の逆変換式を用いて、前記整形画像における各画素に相当する領域を含む前記原画像の複数の画素から当該領域の占有面積が最も大きい画素を選択し、選択した画素の輝度値に基づき、前記整形画像を生成する処理を実行することを特徴とする画像処理方法。
  12. 画角調整機能を有する撮像装置を用いて矩形の対象物を撮像して撮像情報を生成し、
    前記撮像装置の撮像時の画角を示す画角情報と、前記撮像情報に基づく撮像時の解像度とに基づき、前記撮像装置の撮像領域の2次元平面に前記撮像装置の光軸を3次元目として加えた空間であって、かつ、前記撮像装置の主点を原点とする3次元空間における前記原点と、前記3次元空間における前記撮像領域との前記光軸上の相対距離を演算し、
    前記撮像領域における前記対象物の4隅の座標を示す対象領域情報と、前記相対距離とに基づき、前記3次元空間における前記対象物の位置を示す3次元位置情報を生成し、
    当該3次元位置情報に基づき、前記対象物の対向する2辺の長さが等しく平行であるという条件を利用して前記対象物の縦横比を演算し、
    前記撮像情報と、前記対象領域情報と、前記縦横比とに基づき、座標変換処理を行うことにより、前記撮像情報で表される原画像を、当該原画像内の前記対象物が前記矩形で表される整形画像に補正することを特徴とする画像処理方法。
JP2004157758A 2004-05-27 2004-05-27 画像処理装置、画像処理システム、撮像装置および画像処理方法 Expired - Fee Related JP4484037B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004157758A JP4484037B2 (ja) 2004-05-27 2004-05-27 画像処理装置、画像処理システム、撮像装置および画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004157758A JP4484037B2 (ja) 2004-05-27 2004-05-27 画像処理装置、画像処理システム、撮像装置および画像処理方法

Publications (2)

Publication Number Publication Date
JP2005339248A true JP2005339248A (ja) 2005-12-08
JP4484037B2 JP4484037B2 (ja) 2010-06-16

Family

ID=35492744

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004157758A Expired - Fee Related JP4484037B2 (ja) 2004-05-27 2004-05-27 画像処理装置、画像処理システム、撮像装置および画像処理方法

Country Status (1)

Country Link
JP (1) JP4484037B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2013136416A1 (ja) * 2012-03-12 2015-08-03 富士機械製造株式会社 産業用機械及びカメラユニット

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2013136416A1 (ja) * 2012-03-12 2015-08-03 富士機械製造株式会社 産業用機械及びカメラユニット

Also Published As

Publication number Publication date
JP4484037B2 (ja) 2010-06-16

Similar Documents

Publication Publication Date Title
CN109104596B (zh) 投影系统以及显示影像的校正方法
WO2018214365A1 (zh) 图像校正方法、装置、设备、系统及摄像设备和显示设备
JP4363151B2 (ja) 撮影装置、その画像処理方法及びプログラム
JP4529837B2 (ja) 撮像装置、画像補正方法及びプログラム
KR100796849B1 (ko) 휴대 단말기용 파노라마 모자이크 사진 촬영 방법
JP2014131257A (ja) 画像補正システム、画像補正方法及びプログラム
JP4556813B2 (ja) 画像処理装置、及びプログラム
US20060222260A1 (en) Image capture apparatus, image processing method for captured image, and recording medium
TWI336200B (ja)
JP2007201948A (ja) 撮像装置、画像処理方法及びプログラム
JP5644461B2 (ja) 画像処理装置及びプログラム
JP3837710B2 (ja) デジタルカメラ
JP2002057879A (ja) 画像処理装置と画像処理方法及びコンピュータ読み取り可能な記録媒体
JP2009075646A (ja) 映像表示システム及び該システムのパラメータ生成方法
JP2020068514A (ja) 画像処理装置、画像処理方法、及びプログラム
JP2007148784A (ja) 画像合成システム及び画像合成方法
JP4363154B2 (ja) 撮影装置、その画像処理方法及びプログラム
JP4484037B2 (ja) 画像処理装置、画像処理システム、撮像装置および画像処理方法
CN102843479A (zh) 文件扫描方法、文件扫描装置及便携式电子装置
JP2005018195A (ja) 画像処理装置および画像処理プログラム
WO2017154417A1 (ja) 画像処理装置、画像処理方法、及びプログラム
JP4363153B2 (ja) 撮影装置、その画像処理方法及びプログラム
JP6230001B2 (ja) 画像補正装置、画像補正方法、及びプログラム
JP7391502B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP4591343B2 (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060112

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100210

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100303

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

R150 Certificate of patent or registration of utility model

Ref document number: 4484037

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100316

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130402

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130402

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140402

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees