JPH10124658A - 神経回路網を利用したカメラの映像歪補正方法 - Google Patents

神経回路網を利用したカメラの映像歪補正方法

Info

Publication number
JPH10124658A
JPH10124658A JP8170625A JP17062596A JPH10124658A JP H10124658 A JPH10124658 A JP H10124658A JP 8170625 A JP8170625 A JP 8170625A JP 17062596 A JP17062596 A JP 17062596A JP H10124658 A JPH10124658 A JP H10124658A
Authority
JP
Japan
Prior art keywords
neural network
image
camera
dimensional
plane
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP8170625A
Other languages
English (en)
Inventor
Je Han Kim
ジェ ハン キム
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KOREA TELECOMMUN AUTHORITY
Electronics and Telecommunications Research Institute ETRI
Original Assignee
KOREA TELECOMMUN AUTHORITY
Electronics and Telecommunications Research Institute ETRI
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to US08/651,223 priority Critical patent/US5832106A/en
Application filed by KOREA TELECOMMUN AUTHORITY, Electronics and Telecommunications Research Institute ETRI filed Critical KOREA TELECOMMUN AUTHORITY
Priority to JP8170625A priority patent/JPH10124658A/ja
Publication of JPH10124658A publication Critical patent/JPH10124658A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration

Abstract

(57)【要約】 【課題】 使用環境やカメラの個差によるテレビカメラ
の映像の歪を、神経回路網を用いて補正して、正しい座
標を得る。 【解決手段】 テレビカメラの二次元映像の座標、その
映像を造る平面光の照射角度と、実像の三次元座標とか
ら、写像関数を求めて、神経回路網の連結強度に変換し
てテーブルに格納し、テレビカメラの二次元映像を逆照
射して距離を求めた後、この距離に対応するテーブル値
を神経回路網に入力して補正する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明はCCD(Charge Cou
pled Device)またはテレビジョンカメラで得た映像(ima
ge) が実際と異なり歪(distortion)を生ずる場合に、こ
の歪を神経回路網(ニューラルネットワーク)を利用し
て補正(calibration) するカメラの映像歪補正方法に関
する。CCD、テレビジョンカメラ等は光学系,機械
系,及び電子系等に製作上の不正確性が存在する。従っ
て、カメラの映像面(image plane) に示す映像は三次元
空間上の実際と異なり歪(distortion)が生ずる。即ち、
三次元空間の映像がカメラ映像面に投射する時歪が発生
するものである。
【0002】従って、三次元の物体認識、ロボットの視
覚装置、三次元テレビジョン等への応用を目的に、歪ん
だカメラ映像から逆投射(back projection) して三次元
の空間上の位置座標を求めてみると、実際の座標値と異
なって誤差があり、実用化が困難であった。この問題点
を除去するために、得られた映像を実際の座標値に補正
しなければならない。
【0003】従来の補正方法としては、カメラの構造や
機能別にモデリングして誤差要素(error components)
を補正(calibration) する方法があった。即ち、“So
bel”は針刺し(pin-hole)モデルを使用し、レンズを
除外したカメラ・パラメータを非線形方程式に最適化す
る方法(non-linear optimizationmethod)を発明した。
“Tsai”等はレンズを包含して4段階に歪をモデリ
ングして補正する方法を発明したし、“Martin”
外2名は2面補正方法(Twoplane method)を発明した。
【0004】
【発明が解決しようとする課題】しかし、数学的モデリ
ング及び解析によるこれらの従来の方法は、モデリング
をする時カメラの特性及び規格を詳細に知っていなけれ
ばならないし、数学的解析が複雑となり、多くの時間が
必要になるという問題点があった。上記従来技術の問題
点を解決するために案出された本発明は、正確度が高い
神経回路網を利用して、逆投射(back projection) から
簡便かつ効率的に誤差の補正を行うカメラの映像歪補正
方法を提供することにその目的がある。
【0005】
【課題を解決するための手段】上記目的を達成するため
に本発明は、三次元空間の映像をカメラ映像面に投射す
るときに生ずる歪を防止する映像歪補正方法において、
三次元空間座標(X,Y,Z)上の任意の補正点の実際
の座標値とこれに対応する二次元映像面の投射点との写
像関数を、基準線に対する照射光の照射角度θを付加し
て求める第1段階;上記第1段階で求めた写像関数を神
経回路網の連結強度に変換してテーブルに格納する第2
段階;及び得られたカメラ映像を逆投射して映像情報に
ついての距離を求めた後に上記距離に対応するテーブル
値を上記神経回路網に入力して補正する第3段階を包含
することを特徴とする。
【0006】
【発明の実施の形態】以下、添付された図面を参照して
本発明による一実施形態を詳細に説明する。図1は本発
明が適用されるハードウェアの構成図を示す。三次元映
像がカメラの二次元映像平面に投射された映像から再度
三次元座標を求めようとする時、投射により一つの次元
の情報が失なわれることにより三次元の情報を求めるこ
とができなくなるから、図1に図示されるように、三次
元空間で能動的に光源を使用して平面光線を三次元の物
体(100)上に照射して(一例として、レーザ光源
(10)と半円筒のレンズ(20)を利用して平面光線
(30)を作る)、求めようとする位置に光縞(40)
を形成し、この光縞をカメラ(50)で撮影してこの平
面光線の方程式と二次元映像平面の一点を逆投射する時
の空間視線ベクトルを求め、これらを用いて三角測量法
により三次元座標を求める。
【0007】即ち、測量でよく使用される三角測量法の
ように、基準線に対するレーザの照射角度と逆照射の視
線方向の角度がを分かっていると、映像面上の目標点ま
での距離が求められることを利用するのである。図面に
おいて、符号60は平面光の角度調整装置、70は平面
光と基準線との角度情報を得て映像処理する映像処理用
コンピュータ、80は三次元距離情報を出力するモニタ
ーを各々示す。
【0008】図2は写像座標系の概念図である。三次元
空間上の一点が与えられて、カメラの映像平面上に投射
される位置を予測する投射問題と、映像平面上の一点が
与えられて空間上に逆投射されるときの三次元空間視線
ベクトルを計算する逆投射問題を包含して三次元と二次
元の写像関係を正確に決定する過程において、誤差は修
正され、減少する。即ち、図面に示されるように三次元
座標系の空間上の既知の複数の点Pw(X,Y,Z)が
カメラの二次元映像平面に投射される時、映像平面座標
の対応する点Qi(U,V)を得ることができるから二
つの座標の対応点の座標値から座標系相関関係の写像関
数を算出して、この関数から任意の映像座標値について
三次元の座標値を誤差が小さいように補正する。
【0009】本発明は写像関数を求める過程と映像を補
正する過程からなり、先に、第一段階の写像関数を求め
る過程を図3及び図4を参照して説明すると次のとおり
である。図3は本発明による神経回路網を利用した写像
方法の概念図であり、図面に示されるように複数の位置
と距離の補正点Pwの三次元座標値(X,Y,Z)を学
習目標値(target data) に定めて神経回路網に出力段の
値として設定し、補正点Pwと対応するカメラ映像面の
点Qiの座標値(U,V)と平面光線の角度θを入力段
の入力データ(U,V,θ)として設定して学習データ
セットを構成し、学習を実施する。
【0010】図4は映像歪補正のための学習過程のフロ
ーチャートを示し、補正点各々の三次元座標値(X,
Y,Z)が対応する映像座標値及びその平面光線角度値
(U,V,θ)を学習のセットとして写像関係を神経回
路網に学習させる過程を示す。図4に示すように三次元
座標空間のn個の補正点(X,Y,Z)を選択した後
(41)、神経回路網の出力段に目標値データセットを
構成する(42)。次に補正点に対応する二次元映像面
のn個の点(U,V)とその平面光線の照射角度θを得
て(43)、神経回路網入力段の入力値(U,V,θ)
としてデータセットを設定する(44)。データセット
を設定した後神経回路網に反復学習させ(45)、設定
された誤差以内に学習されたか否かを確認して(4
6)、設定された誤差以内に学習された場合には学習さ
れた連結の強度をテーブルに格納する(47)。もし、
設定された誤差範囲を外れる場合には神経回路網に反復
学習させる(45)。
【0011】即ち、この学習を、望む誤差以内に学習さ
れるように反復して写像関数に相当するニューロン間の
連結強度を求め、求めた連結強度の値をテーブルに保存
する。補正点の数を多数選択し多様な距離での対応点を
選択すればするほど正確に学習されるが、処理時間が増
加するので適当な数値を選択する。学習は望む距離につ
いて補正点を選択して反復遂行し、距離により求めた連
結強度はテーブルに保存する。
【0012】次いで、第2段階の、映像を補正する過程
を図5によって説明すると次のとおりである。図5は映
像歪補正過程のフローチャートで、映像を補正する過程
は、先ず、映像面座標及び平面光線角度を入力して(5
1)、得られたカメラ映像から補正なしに逆投射して映
像情報によるおよその距離を求めた(52)後に、この
距離に対応するテーブル値を神経回路網の連結強度とし
て入力して(53)、神経回路網に任意の映像座標値と
平面光線の照射角度値(U,V,θ)を入力すると(5
4)、歪のない正確な三次元座標値(X,Y,Z)を神
経回路網を通じて出力(55)することになるから、補
正された正確な値が求められる。 即ち、角度θをQ1
点のU及びV値とともにPW 点の(X,Y,Z)に対応
させる。これを式に表現すると、PW (X,Y,Z)=
F(U,V,θ)となる。
【0013】従って、カメラ映像面に(i,j,θ)で
示される点QはFという写像関数により三次元空間上の
(X,Y,Z)に逆投射される点を求められていて、写
像関数Fを利用して補正できる。ここで、補正の精度は
写像関数の精度により決定される。
【0014】図6は本発明の一実施形態による補正のた
めの神経回路網の概念図であり、逆伝播学習アルゴリズ
ムを利用する多層パーセプトロン(perceptron) 神経回
路網を示す。図6に示すように入力段と出力段のニュー
ロンの数は各々3個で、その間に多層隠れ層を持つ。入
力段では映像面のn個の補正点についての(U,V,
θ)値を入力し、出力段には上記n個の補正点に対応す
る三次元空間上の(X,Y,Z)値を入力し、逆伝播に
よる学習をさせる。なお、この学習は、上記逆伝播学習
アルゴリズム以外の種々のアルゴリズムを用いることも
できる。この学習によって、入出力値を写像するニュー
ロン間の連結強度wijを求める。
【0015】
【発明の効果】上記の説明から明らかなように、本発明
は、三次元空間上の補正点と二次元映像面に投射された
補正点および照写角度との写像関係を神経回路網で求め
て、この関係値をテーブルに格納しておき、このテーブ
ルを用いて映像歪の補正をすることができるから、環境
やカメラの種類その他のパラメータの値に関係なく、容
易かつ効率的に補正できるという効果がある。本発明方
法は、種々の分野に応用でき、例えば、ロボットの視覚
システムに組み込んだり、三次元物体の認識、距離の測
定等に使うことができる。
【図面の簡単な説明】
【図1】本発明の一実施形態のハードウェアの構成図で
ある。
【図2】写像座標系の概念図である。
【図3】本発明による神経回路網を利用する映像方法の
概念図である。
【図4】映像歪補正のための学習過程のフローチャート
である。
【図5】映像歪の補正過程のフローチャートである。
【図6】本発明の一実施形態による映像歪補正のための
神経回路網の概念図である。
【符号の説明】
10 レーザー光源 30 平面光線 40 光縞 50 カメラ 60 平面光線照射角度調整装置 70 映像処理用コンピュータ 100 物体 u,v 映像面座標 θ 平面光線照射角 x,y,z 三次元座標
───────────────────────────────────────────────────── フロントページの続き (72)発明者 キム ジェ ハン 大韓民国 デジョンシ ユソング ガジョ ンドン 161 エレクトロニクス アンド テレコミュニケーション リサーチ イ ンスチチュート内

Claims (4)

    【特許請求の範囲】
  1. 【請求項1】 三次元空間の映像をカメラ映像面に投射
    するときに生ずる歪を防止する映像歪補正方法におい
    て、 三次元空間座標(X,Y,Z)上の任意の補正点の実際
    の座標値とこれに対応する二次元映像面の投射点との写
    像関数を、基準線に対する照射光の照射角度θを付加し
    て求める第1段階;上記第1段階で求めた写像関数を神
    経回路網の連結強度に変換してテーブルに格納する第2
    段階;及び得られたカメラ映像を逆投射して映像情報に
    ついての距離を求めた後に上記距離に対応するテーブル
    値を上記神経回路網に入力して補正する第3段階を包含
    することを特徴とする神経回路網を利用したカメラの映
    像歪補正方法。
  2. 【請求項2】 請求項1において、上記第1段階は、 三次元座標空間のn個の補正点(X,Y,Z)を選択し
    た後に上記神経回路網の出力段に目標値データセットを
    設定する第1.1段階;上記各補正点に対応する二次元
    の映像面のn個の点(U,V)と平面光線の照射角度θ
    を取得した後に上記神経回路網の入力段に入力値(U,
    V,θ)のデータセットを設定する第1.2段階;及び
    予め設定された誤差以内に学習されるまで上記神経回路
    網に反復学習させ、上記誤差以内に学習されたとき、上
    記第2段階を遂行する第1.3段階を包含することを特
    徴とする神経回路網を利用したカメラの映像歪補正方
    法。
  3. 【請求項3】 請求項1において、上記第3段階は、 映像面座標と平面光線の照射角度から得られたカメラ映
    像を補正なしに逆投射して、その映像情報からおよその
    距離を求める第3.1段階;上記第3.1段階で求めた
    およその距離に対応するテーブル値を上記神経回路網の
    連結強度として入力する第3.2段階;及び上記神経回
    路網に任意の映像座標値と平面光線の照射角度値(U,
    V,θ)を入力して三次元座標値(X,Y,Z)を出力
    する第3.3段階を包含することを特徴とする神経回路
    網を利用したカメラの映像歪補正方法。
  4. 【請求項4】 請求項1乃至3のいずれかにおいて、上
    記神経回路網は、逆伝播学習アルゴリズムを利用する多
    層パーセプトロン神経回路網であることを特徴とする神
    経回路網を利用したカメラの映像歪補正方法。
JP8170625A 1996-05-22 1996-06-10 神経回路網を利用したカメラの映像歪補正方法 Pending JPH10124658A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US08/651,223 US5832106A (en) 1996-05-22 1996-05-22 Method for camera calibration of range imaging system by use of neural network
JP8170625A JPH10124658A (ja) 1996-05-22 1996-06-10 神経回路網を利用したカメラの映像歪補正方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US08/651,223 US5832106A (en) 1996-05-22 1996-05-22 Method for camera calibration of range imaging system by use of neural network
JP8170625A JPH10124658A (ja) 1996-05-22 1996-06-10 神経回路網を利用したカメラの映像歪補正方法

Publications (1)

Publication Number Publication Date
JPH10124658A true JPH10124658A (ja) 1998-05-15

Family

ID=26493568

Family Applications (1)

Application Number Title Priority Date Filing Date
JP8170625A Pending JPH10124658A (ja) 1996-05-22 1996-06-10 神経回路網を利用したカメラの映像歪補正方法

Country Status (2)

Country Link
US (1) US5832106A (ja)
JP (1) JPH10124658A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100425751B1 (ko) * 1999-01-21 2004-04-01 인텔 코오퍼레이션 디지털 카메라에서 이미지 왜곡을 소프트웨어적으로보정하는 장치 및 그 방법
JP2020191036A (ja) * 2019-05-24 2020-11-26 日本放送協会 オブジェクト軌跡生成装置及びそのプログラム
CN113807207A (zh) * 2021-08-30 2021-12-17 中科尚易健康科技(北京)有限公司 基于多摄像头的人体经络识别方法和装置及人体经络调理设备

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6512844B2 (en) * 1997-05-30 2003-01-28 California Institute Of Technology 3D rendering
US6219063B1 (en) * 1997-05-30 2001-04-17 California Institute Of Technology 3D rendering
JP2000097703A (ja) * 1998-09-21 2000-04-07 Topcon Corp 3次元測定方法と、これを利用した測量機
JP2000292134A (ja) * 1999-04-07 2000-10-20 Minolta Co Ltd 3次元情報入力カメラ
JP4043657B2 (ja) * 1999-09-06 2008-02-06 ペンタックス株式会社 写真測量用画像処理装置、写真測量用画像処理方法および写真測量用画像処理プログラムを格納した記憶媒体
US6789039B1 (en) * 2000-04-05 2004-09-07 Microsoft Corporation Relative range camera calibration
US6997387B1 (en) * 2001-03-28 2006-02-14 The Code Corporation Apparatus and method for calibration of projected target point within an image
US6873924B1 (en) * 2003-09-30 2005-03-29 General Electric Company Method and system for calibrating relative fields of view of multiple cameras
US7692649B2 (en) 2005-10-04 2010-04-06 Rdv Systems Ltd. Method and apparatus for virtual reality presentation of civil engineering, land planning and infrastructure
US7978192B2 (en) * 2005-10-04 2011-07-12 Rdv Systems Ltd. Method and apparatus for evaluating sight distance
US8134556B2 (en) * 2007-05-30 2012-03-13 Elsberg Nathan Method and apparatus for real-time 3D viewer with ray trace on demand
US8031210B2 (en) * 2007-09-30 2011-10-04 Rdv Systems Ltd. Method and apparatus for creating a composite image
US8314791B2 (en) * 2007-11-19 2012-11-20 Rdv Systems Ltd. Method and apparatus for determining view impact
US8265347B2 (en) * 2008-04-24 2012-09-11 The Hong Kong Polytechnic University Method and system for personal identification using 3D palmprint imaging
US20090323084A1 (en) * 2008-06-25 2009-12-31 Joseph Christen Dunn Package dimensioner and reader
US8427473B2 (en) * 2008-09-28 2013-04-23 Rdv Systems Ltd. Pseudo-realistic rendering of BIM data responsive to positional indicator
US10812778B1 (en) 2015-11-09 2020-10-20 Cognex Corporation System and method for calibrating one or more 3D sensors mounted on a moving manipulator
US11562502B2 (en) 2015-11-09 2023-01-24 Cognex Corporation System and method for calibrating a plurality of 3D sensors with respect to a motion conveyance
US10757394B1 (en) 2015-11-09 2020-08-25 Cognex Corporation System and method for calibrating a plurality of 3D sensors with respect to a motion conveyance
CN105488807A (zh) * 2015-12-25 2016-04-13 傅之成 一种远心镜头的标定和矫正方法
CN108510546B (zh) * 2017-02-28 2021-10-01 北京航空航天大学 一种适用于图谱及结构信息同步探测系统的相机标定方法
CN107230234A (zh) * 2017-05-08 2017-10-03 上海工程技术大学 一种基于三线结构光的相机平面标定方法
EP3557182A1 (en) 2018-04-20 2019-10-23 CSEM Centre Suisse d'Electronique et de Microtechnique SA - Recherche et Développement Positioning system and method
EP3557191A1 (en) 2018-04-20 2019-10-23 CSEM Centre Suisse d'Electronique et de Microtechnique SA - Recherche et Développement System and method for improving the accuracy of a position of an object
CN113804124A (zh) * 2021-09-16 2021-12-17 飞亚达精密科技股份有限公司 一种基于神经网络模型的三维测量方法及系统
CN114363600B (zh) * 2022-03-15 2022-06-21 视田科技(天津)有限公司 一种基于结构光扫描的远程快速3d投影方法及系统

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100425751B1 (ko) * 1999-01-21 2004-04-01 인텔 코오퍼레이션 디지털 카메라에서 이미지 왜곡을 소프트웨어적으로보정하는 장치 및 그 방법
JP2020191036A (ja) * 2019-05-24 2020-11-26 日本放送協会 オブジェクト軌跡生成装置及びそのプログラム
CN113807207A (zh) * 2021-08-30 2021-12-17 中科尚易健康科技(北京)有限公司 基于多摄像头的人体经络识别方法和装置及人体经络调理设备

Also Published As

Publication number Publication date
US5832106A (en) 1998-11-03

Similar Documents

Publication Publication Date Title
JPH10124658A (ja) 神経回路網を利用したカメラの映像歪補正方法
US10085011B2 (en) Image calibrating, stitching and depth rebuilding method of a panoramic fish-eye camera and a system thereof
US20210041236A1 (en) Method and system for calibration of structural parameters and construction of affine coordinate system of vision measurement system
JP6394005B2 (ja) 投影画像補正装置、投影する原画像を補正する方法およびプログラム
US11210804B2 (en) Methods, devices and computer program products for global bundle adjustment of 3D images
US20150279016A1 (en) Image processing method and apparatus for calibrating depth of depth sensor
US9739603B2 (en) Calibration device, calibration method, and non-transitory computer-readable recording medium
CN111127422A (zh) 图像标注方法、装置、系统及主机
CN108700662A (zh) 距离图像获取装置及其应用
JP2015036629A (ja) 校正装置、方法及びプログラム
WO2020188799A1 (ja) カメラ校正装置、カメラ校正方法、及びプログラムが格納された非一時的なコンピュータ可読媒体
US9838587B2 (en) System for registration of virtual space and real space, method for registering display apparatus and image sensor, and electronic device registered using the method
Gong et al. Bound constrained bundle adjustment for reliable 3D reconstruction
JP2020042503A (ja) 三次元表象生成システム
CN114022560A (zh) 标定方法及相关装置、设备
CN115205128A (zh) 基于结构光的深度相机温漂校正方法、系统、设备及介质
Do Application of neural networks for stereo-camera calibration
Rudakova et al. Camera matrix calibration using circular control points and separate correction of the geometric distortion field
JP6065670B2 (ja) 3次元計測システム、プログラム及び方法。
KR101683763B1 (ko) 360도 카메라를 이용한 증강현실 로봇 시뮬레이션 시스템 및 방법
JP2011130290A (ja) カメラ画像の補正方法およびカメラ装置および座標変換パラメータ決定装置
KR0139572B1 (ko) 신경망 회로를 이용한 영상 왜곡 보정 방법
KR20190001728A (ko) 증강현실 기반 자세 측정 장치 및 방법
Do On the neural computation of the scale factor in perspective transformation camera model
Nguyen et al. Matching-based depth camera and mirrors for 3D reconstruction